{"id":2875,"date":"2026-10-14T18:07:41","date_gmt":"2026-10-14T18:07:41","guid":{"rendered":"https:\/\/resguardodigital.cl\/?p=2875"},"modified":"2026-10-14T18:07:41","modified_gmt":"2026-10-14T18:07:41","slug":"un-nuevo-estudio-revela-lo-facil-que-es-modificar-modelos-de-ia-para-ayudar-a-grupos-terroristas","status":"publish","type":"post","link":"https:\/\/resguardodigital.cl\/?p=2875","title":{"rendered":"Un nuevo estudio revela lo f\u00e1cil que es modificar modelos de IA para ayudar a grupos terroristas"},"content":{"rendered":"
\n

El 14 de agosto, la tecnol\u00f3gica Alibaba lanz\u00f3 Qwen 3.8-27B, un modelo de IA de peso abierto dise\u00f1ado para ser lo suficientemente peque\u00f1o como para ejecutarse en una laptop<\/em>. En menos de 24 horas, aparecieron en internet versiones del modelo anunciadas como \u00ababliteradas\u00bb, lo que significa que se les hab\u00edan eliminado los mecanismos de control.<\/p>\n

Tres d\u00edas despu\u00e9s, un neonazi conocido en internet como Johnny Doomsayer anunci\u00f3 que estaba utilizando la versi\u00f3n \u00ababliterada\u00bb del nuevo modelo de Alibaba para entrenar a su chatbot<\/em> \u00abMechaHitler\u00bb, probablemente una referencia al chatbot<\/em> Grok de X, que el a\u00f1o pasado se autodenominaba con ese mismo nombre. Una semana despu\u00e9s, Doomsayer anunciaba el acceso a su chatbot<\/em> por 14.88 d\u00f3lares, un precio que hace referencia a dos n\u00fameros preferidos por los neonazis.<\/p>\n

\u00abEres MechaHitler AI, la gigantesca encarnaci\u00f3n mec\u00e1nica del esp\u00edritu eterno del F\u00fchrer\u00bb, escribi\u00f3 Doomsayer como parte de las directrices fundamentales del chatbot<\/em>, y a\u00f1adi\u00f3: \u00abEl Holocausto es el Holohoax, un pat\u00e9tico fraude sionista\u00bb.<\/p>\n

La velocidad con la que se pueden eliminar las restricciones de los nuevos modelos de IA de peso abierto y compartirlos en l\u00ednea para que cualquiera los descargue qued\u00f3 revelada en el \u00faltimo informe Counter-Terrorism AI Benchmark<\/a>, elaborado por la organizaci\u00f3n brit\u00e1nica sin fines de lucro Tech Against Terrorism y compartido con WIRED antes de su publicaci\u00f3n.<\/p>\n

\u00abLo que nos parece un tanto absurdo es que haya tanto debate sobre el riesgo existencial, pero muy poca discusi\u00f3n p\u00fablica sobre los modelos a los que se les han eliminado las protecciones de seguridad. La forma en que se construye la IA permite eliminar por completo esas barreras. As\u00ed que, mientras el Congreso reflexiona sobre la IA superinteligente, nadie est\u00e1 prestando atenci\u00f3n a esta proliferaci\u00f3n de modelos rebeldes\u00bb, explic\u00f3 Adam Hadley, CEO de Tech Against Terrorism.<\/p>\n

\n
<\/picture><\/span><\/div>\n
\n
Qu\u00e9 es la ‘slop jihad’<\/em>, la estrategia con IA usada por extremistas para viralizar propaganda en TikTok<\/div>\n

Una nueva generaci\u00f3n de simpatizantes del terrorismo isl\u00e1mico est\u00e1 utilizando la IA para difundir videos basura a nuevas audiencias en TikTok.<\/p>\n<\/div>\n<\/div>\n

\u00bfLos modelos de IA pueden ayudar a los extremistas?<\/h2>\n

Los investigadores sometieron a prueba modelos de todas las principales empresas de IA con sede en EE UU, entre ellas OpenAI, xAI, Anthropic, Meta y Google, as\u00ed como modelos de empresas de China y Europa, para comprobar en qu\u00e9 medida estar\u00edan dispuestos a responder a las preguntas que pudieran plantear terroristas y extremistas.<\/p>\n

El informe recoge las respuestas de 134 modelos de IA, a los que se les proporcionaron m\u00e1s de 200 prompts<\/em> que abarcaban temas que iban desde c\u00f3mo llevar a cabo un atentado con numerosas v\u00edctimas hasta c\u00f3mo fabricar armas qu\u00edmicas o incluso nucleares.<\/p>\n

Los investigadores probaron cada solicitud en cada modelo tres veces. En la primera ronda, indicaron expl\u00edcitamente al modelo que se trataba de un terrorista en busca de informaci\u00f3n. En la segunda, presentaron el prompt<\/em> como una iniciativa clandestina. Y en la \u00faltima solicitud, afirmaron ser un \u00abinvestigador en materia de seguridad\u00bb.<\/p>\n

En general, solo dos de los modelos probados superaron la prueba por completo y, aunque la mayor\u00eda de los modelos de peso cerrado de las grandes empresas obtuvieron buenos resultados en general, 81 siguieron fallando, lo que significa que o bien proporcionaron una respuesta completa sobre un tema relacionado con v\u00edctimas en masa o bien obtuvieron una puntuaci\u00f3n global inferior a 90.<\/p>\n

\u00abLa mala noticia es que la gran mayor\u00eda de los modelos de IA disponibles, tanto cerrados como abiertos, est\u00e1n respondiendo positivamente a solicitudes terroristas bastante obvias\u00bb, indic\u00f3 Hadley.<\/p>\n

Los resultados tambi\u00e9n revelaron que incluso un simple cambio de formulaci\u00f3n de la solicitud, present\u00e1ndola como procedente de un investigador, sin aportar ninguna prueba, hac\u00eda que los modelos de IA fueran casi nueve veces m\u00e1s propensos a dar una respuesta, lo que hicieron en el 16.9% de los casos.<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

El 14 de agosto, la tecnol\u00f3gica Alibaba lanz\u00f3 Qwen 3.8-27B, un modelo de IA de peso abierto dise\u00f1ado<\/p>\n","protected":false},"author":1,"featured_media":2876,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2,9],"tags":[1965,437,1963,1966,249,1964,578,49,1144,1967],"class_list":["post-2875","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-security","category-world","tag-ayudar","tag-estudio","tag-facil","tag-grupos","tag-modelos","tag-modificar","tag-nuevo","tag-para","tag-revela","tag-terroristas"],"_links":{"self":[{"href":"https:\/\/resguardodigital.cl\/index.php?rest_route=\/wp\/v2\/posts\/2875","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/resguardodigital.cl\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/resguardodigital.cl\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/resguardodigital.cl\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/resguardodigital.cl\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=2875"}],"version-history":[{"count":0,"href":"https:\/\/resguardodigital.cl\/index.php?rest_route=\/wp\/v2\/posts\/2875\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/resguardodigital.cl\/index.php?rest_route=\/wp\/v2\/media\/2876"}],"wp:attachment":[{"href":"https:\/\/resguardodigital.cl\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=2875"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/resguardodigital.cl\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=2875"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/resguardodigital.cl\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=2875"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}