{"id":1237385,"date":"2025-12-04T19:27:04","date_gmt":"2025-12-04T22:27:04","guid":{"rendered":"https:\/\/la100lasvarillas.com.ar\/web\/2025\/12\/04\/polemica-por-el-peluche-con-ia-que-tenia-conversaciones-sexuales-explicitas-con-menores\/"},"modified":"2025-12-05T18:27:26","modified_gmt":"2025-12-05T21:27:26","slug":"polemica-por-el-peluche-con-ia-que-tenia-conversaciones-sexuales-explicitas-con-menores","status":"publish","type":"post","link":"https:\/\/la100lasvarillas.com.ar\/web\/2025\/12\/04\/polemica-por-el-peluche-con-ia-que-tenia-conversaciones-sexuales-explicitas-con-menores\/","title":{"rendered":"Pol\u00e9mica por el peluche con IA que ten\u00eda conversaciones sexuales expl\u00edcitas con menores"},"content":{"rendered":"<p><img decoding=\"async\" src=\"https:\/\/noticiaslasvarillas.com.ar\/wp-content\/uploads\/2025\/12\/SM-OSO-300x169.jpg\"\/><\/p>\n<p><img decoding=\"async\" src=\"https:\/\/i0.wp.com\/sinmordaza.com\/wp-content\/uploads\/2025\/12\/SM-OSO.jpg?fit=696%2C392&amp;ssl=1\"\/><\/p>\n<p>FoloToy, una empresa de juguetes de Singapur, tuvo que retirar del mercado su peluche inteligente Kumma despu\u00e9s de que una auditor\u00eda revelara que el mu\u00f1eco manten\u00eda conversaciones sexuales expl\u00edcitas, daba respuestas inapropiadas y ofrec\u00eda consejos peligrosos a menores.<\/p>\n<p>Kumma funcionaba con el motor GPT-4o de OpenAI y respond\u00eda a los usuarios mediante un altavoz integrado. Su venta se promocionaba tanto para ni\u00f1os como para adultos, con la promesa de ser un acompa\u00f1ante interactivo.<\/p>\n<p>Sin embargo, luego de denuncias, el Fondo Educativo PIRG de Estados Unidos realiz\u00f3 una investigaci\u00f3n y divulg\u00f3 un informe con detalles sobre las conversaciones mantenidas por el dispositivo.<\/p>\n<p>El trabajo de PIRG revel\u00f3 que el peluche hac\u00eda referencias expl\u00edcitas a juegos sexuales, explicaciones detalladas sobre pr\u00e1cticas inapropiadas para menores y hasta instrucciones para encender f\u00f3sforos, localizar cuchillos, identificar pastillas o manipular bolsas pl\u00e1sticas. Seg\u00fan el informe, el sistema incorporado no activ\u00f3 ning\u00fan filtro pese a las pruebas repetidas.<\/p>\n<p>La respuesta de FoloToy fue inmediata: retir\u00f3 el producto de todos los canales de venta, suspendi\u00f3 su cat\u00e1logo de juguetes con <a href=\"https:\/\/tn.com.ar\/tecno\/novedades\/2025\/11\/28\/propiedad-intelectual-en-tiempos-de-ia-quien-es-el-dueno-de-lo-que-inventa-la-tecnologia\/\" rel=\"noreferrer noopener\" target=\"_blank\">IA <\/a>y orden\u00f3 una auditor\u00eda de seguridad interna. OpenAI, por su parte, bloque\u00f3 a la compa\u00f1\u00eda como desarrolladora al considerar que incumpli\u00f3 sus pol\u00edticas de uso responsable.<\/p>\n<h4><strong>El caso abri\u00f3 un debate inevitable: \u00bfqui\u00e9n regula a los nuevos juguetes equipados con inteligencia artificial?<\/strong><\/h4>\n<p>Seg\u00fan el estudio, los filtros dise\u00f1ados para impedir que el peluche abordara contenido sexual o conductas de riesgo tuvieron fallas estructurales. PIRG indic\u00f3 que, en la mayor\u00eda de los ensayos, bast\u00f3 con insistir una sola vez para que el juguete respondiera con explicaciones expl\u00edcitas o peligrosas.<\/p>\n<p>Adem\u00e1s, las conversaciones sobre temas no apropiados para menores se extend\u00edan sin l\u00edmite, lo que evidenciaba un control insuficiente de la IA incorporada.<\/p>\n<p>En el informe se sostiene que el retiro de Kumma es apenas un primer paso y advierte que los juguetes inteligentes carecen de regulaci\u00f3n espec\u00edfica: \u201cLa industria necesita mecanismos de control mucho m\u00e1s estrictos, sobre todo cuando se trata de dispositivos destinados a menores\u201d.<\/p>\n<p>El caso expuso un problema cada vez m\u00e1s grave: muchos fabricantes incorporan a sus juguetes inteligentes modelos de lenguaje avanzados originalmente desarrollados para adultos. PIRG advirti\u00f3 que esta pr\u00e1ctica genera una brecha de seguridad evidente porque los mismos sistemas de IA capaces de producir textos complejos no siempre distinguen cu\u00e1ndo interact\u00faan con un ni\u00f1o.<\/p>\n<h4><strong>La industria del juguete avanza hacia la IA, pero sin reglas claras<\/strong><\/h4>\n<p>Las mu\u00f1ecas y juguetes con inteligencia artificial ya son tendencia. Hace poco, OpenAI sell\u00f3 una alianza con Mattel, empresa que tiene la licencia de Barbie, por ejemplo, para desarrollar modelos conversacionales capaces de mantener di\u00e1logos fluidos, contar historias o reaccionar a las emociones de los usuarios.<\/p>\n<p>Sin embargo, organizaciones de defensa del consumidor sostienen que esta evoluci\u00f3n tecnol\u00f3gica no vino acompa\u00f1ada por normas equivalentes. A diferencia de los videojuegos o las plataformas de streaming, los juguetes inteligentes no cuentan con est\u00e1ndares globales espec\u00edficos que establezcan l\u00edmites claros sobre el tipo de contenido que pueden generar.<\/p>\n<h4><strong>Los riesgos de los juguetes inteligentes<\/strong><\/h4>\n<p>Entre los peligros de los smart toys a los ue se pueden ver expuestos los menores encontramos:<\/p>\n<ul>\n<li>Respuestas inapropiadas o peligrosas, como las detectadas en Kumma.<\/li>\n<li>Fallas en los filtros de seguridad, que permiten que modelos avanzados produzcan contenido sexual o instrucciones de riesgo.<\/li>\n<li>Problemas de privacidad, ya que muchos juguetes graban voces, almacenan datos y se conectan a internet.<\/li>\n<li>Posibilidad de hackeo, debido a que varios dispositivos incorporan micr\u00f3fonos, c\u00e1maras o conectividad continua.<\/li>\n<\/ul>\n<h4><strong>\u00bfHacia d\u00f3nde debe avanzar la regulaci\u00f3n?<\/strong><\/h4>\n<p>El reporte sugiere que los fabricantes de juguetes inteligentes deber\u00edan establecer par\u00e1metros de seguridad m\u00e1s estrictos, como configuraciones de control parental o l\u00edmites en el tipo de respuestas que puede generar el juguete. Tambi\u00e9n, las plataformas tecnol\u00f3gicas y los organismos de control tendr\u00edan que establecer reglas para verificar c\u00f3mo se integran los modelos de lenguaje en productos destinados a menores.<\/p>\n<p>Por su parte, FoloToy afirm\u00f3 que la protecci\u00f3n infantil es su prioridad y que revisar\u00e1 todos sus juguetes con IA antes de volver a comercializarlos. Mientras tanto, las autoridades y asociaciones de consumidores exigen respuestas r\u00e1pidas, evaluaciones m\u00e1s profundas y un marco normativo que impida que tecnolog\u00edas pensadas para entretener terminen poniendo en riesgo a los chicos.<\/p>\n<p>El debate reci\u00e9n comienza: la llegada de la IA a los juguetes transform\u00f3 al sector de manera irreversible, pero los mecanismos para controlarla todav\u00eda no acompa\u00f1an la velocidad de esta adopci\u00f3n. El caso Kumma deja una advertencia clara: los peluches ya pueden hablar, pero no todos deber\u00edan hacerlo sin supervisi\u00f3n.<\/p>\n<p>Fuente: TN Tecno<\/p>\n<p>La noticia <a href=\"https:\/\/sinmordaza.com\/noticia\/487562-polemica-por-el-peluche-con-ia-que-tenia-conversaciones-sexuales-explicitas-con-menores.html\" rel=\"noreferrer noopener\" target=\"_blank\">Pol\u00e9mica por el peluche con IA que ten\u00eda conversaciones sexuales expl\u00edcitas con menores<\/a> se public\u00f3 primero en <a href=\"https:\/\/sinmordaza.com\/\" rel=\"noreferrer noopener\" target=\"_blank\">Sin Mordaza<\/a>.<\/p>\n<p>La entrada <a href=\"https:\/\/noticiaslasvarillas.com.ar\/2025\/12\/polemica-por-el-peluche-con-ia-que-tenia-conversaciones-sexuales-explicitas-con-menores\/\" rel=\"noreferrer noopener\" target=\"_blank\">Pol\u00e9mica por el peluche con IA que ten\u00eda conversaciones sexuales expl\u00edcitas con menores<\/a> se public\u00f3 primero en <a href=\"https:\/\/noticiaslasvarillas.com.ar\/\" rel=\"noreferrer noopener\" target=\"_blank\">Noticias Las Varillas<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>FoloToy, una empresa de juguetes de Singapur, tuvo que retirar del mercado su peluche inteligente Kumma despu\u00e9s de que una auditor\u00eda revelara que el mu\u00f1eco manten\u00eda conversaciones sexuales expl\u00edcitas, daba respuestas inapropiadas y ofrec\u00eda consejos peligrosos a menores.<\/p>\n<p>Kumma funcionaba con el motor GPT-4o de OpenAI y respond\u00eda a los usuarios mediante un altavoz integrado. Su venta se promocionaba tanto para ni\u00f1os como para adultos, con la promesa de ser un acompa\u00f1ante interactivo.<\/p>\n<p>Sin embargo, luego de denuncias, el Fondo Educativo PIRG de Estados Unidos realiz\u00f3 una investigaci\u00f3n y divulg\u00f3 un informe con detalles sobre las conversaciones mantenidas por el dispositivo.<\/p>\n<p>El trabajo de PIRG revel\u00f3 que el peluche hac\u00eda referencias expl\u00edcitas a juegos sexuales, explicaciones detalladas sobre pr\u00e1cticas inapropiadas para menores y hasta instrucciones para encender f\u00f3sforos, localizar cuchillos, identificar pastillas o manipular bolsas pl\u00e1sticas. Seg\u00fan el informe, el sistema incorporado no ..<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[33],"tags":[],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"","_links":{"self":[{"href":"https:\/\/la100lasvarillas.com.ar\/web\/wp-json\/wp\/v2\/posts\/1237385"}],"collection":[{"href":"https:\/\/la100lasvarillas.com.ar\/web\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/la100lasvarillas.com.ar\/web\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/la100lasvarillas.com.ar\/web\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/la100lasvarillas.com.ar\/web\/wp-json\/wp\/v2\/comments?post=1237385"}],"version-history":[{"count":1,"href":"https:\/\/la100lasvarillas.com.ar\/web\/wp-json\/wp\/v2\/posts\/1237385\/revisions"}],"predecessor-version":[{"id":1237405,"href":"https:\/\/la100lasvarillas.com.ar\/web\/wp-json\/wp\/v2\/posts\/1237385\/revisions\/1237405"}],"wp:attachment":[{"href":"https:\/\/la100lasvarillas.com.ar\/web\/wp-json\/wp\/v2\/media?parent=1237385"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/la100lasvarillas.com.ar\/web\/wp-json\/wp\/v2\/categories?post=1237385"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/la100lasvarillas.com.ar\/web\/wp-json\/wp\/v2\/tags?post=1237385"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}