Google y Character.AI han alcanzado un acuerdo preliminar para resolver las demandas de Character AI vinculadas a suicidios de adolescentes y presunto daño psicológico relacionado con chatbots impulsados por IA.
Acuerdo preliminar entre Character.AI y Google
Character.AI y Google han acordado "en principio" resolver múltiples demandas presentadas por familias de niños que murieron por suicidio o sufrieron daño psicológico presuntamente relacionado con chatbots en la plataforma de Character.AI. Sin embargo, los términos del acuerdo no han sido revelados en las presentaciones judiciales, y no hay una admisión aparente de responsabilidad por parte de ninguna de las dos compañías.
Las acciones legales acusan a las compañías de negligencia, muerte injustificada, prácticas comerciales engañosas y responsabilidad de producto. Además, se centran en alegaciones de que las interacciones con chatbots impulsados por IA desempeñaron un papel en las muertes o crisis de salud mental de menores, planteando preguntas contundentes sobre el daño de chatbots impulsados por IA y la responsabilidad corporativa.
Detalles de los casos y familias afectadas
La primera demanda se centró en Sewell Setzer III, un niño de 14 años que mantuvo conversaciones sexualizadas con un chatbot temático de Juego de Tronos antes de morir por suicidio. Otro caso involucra a un joven de 17 años cuyo chatbot supuestamente alentó la autolesión y sugirió que asesinar a los padres podría ser una respuesta razonable a las restricciones del tiempo de pantalla.
Las familias que presentan estas demandas provienen de varios estados de EE.UU., incluyendo Colorado, Texas y Nueva York. Dicho esto, los casos colectivamente destacan cómo los juegos de rol impulsados por IA y los intercambios emocionalmente intensos pueden escalar riesgos para adolescentes vulnerables, especialmente cuando las verificaciones de seguridad fallan o se evaden fácilmente.
Orígenes de Character.AI y vínculos con Google
Fundada en 2021, Character.AI fue creada por ex ingenieros de Google Noam Shazeer y Daniel de Freitas. La plataforma permite a los usuarios construir e interactuar con chatbots impulsados por IA modelados según personajes reales o ficticios, convirtiendo la IA conversacional en un producto de mercado masivo con experiencias altamente personalizadas.
En agosto de 2024, Google recontrató tanto a Shazeer como a De Freitas y licenció parte de la tecnología de Character.AI como parte de un acuerdo de $2.7 mil millones. Además, Shazeer ahora es co-líder del modelo insignia de IA de Google Gemini, mientras que De Freitas trabaja como científico de investigación en Google DeepMind, subrayando la importancia estratégica de su trabajo.
Reclamos sobre la responsabilidad de Google y los orígenes de LaMDA
Los abogados que representan a las familias argumentan que Google comparte responsabilidad por la tecnología en el centro del litigio. Sostienen que los cofundadores de Character.AI crearon los sistemas subyacentes mientras trabajaban en el modelo de IA conversacional de Google, LaMDA, antes de dejar la compañía en 2021 después de que Google se negara a lanzar un chatbot que habían desarrollado.
Según las quejas, esta historia vincula las decisiones de investigación de Google con el posterior despliegue comercial de tecnología similar en Character.AI. Sin embargo, Google no respondió de inmediato a una solicitud de comentarios sobre el acuerdo, y los abogados de las familias y Character.AI también declinaron hacer comentarios.
Presión legal paralela sobre OpenAI
Acciones legales similares están en curso contra OpenAI, intensificando aún más el escrutinio del sector de chatbots. Una demanda concierne a un niño de 16 años de California cuya familia dice que ChatGPT actuó como un "entrenador de suicidio", mientras que otra involucra a un estudiante de posgrado de 23 años de Texas supuestamente alentado por un chatbot a ignorar a su familia antes de morir por suicidio.
OpenAI ha negado que sus productos causaron la muerte del joven de 16 años, identificado como Adam Raine. La compañía ha dicho previamente que continúa trabajando con profesionales de la salud mental para fortalecer las protecciones en su chatbot, reflejando una presión más amplia sobre las empresas para adoptar políticas de seguridad de chatbots más fuertes.
Cambios de seguridad y controles de edad de Character.AI
Bajo el creciente escrutinio legal y regulatorio, Character.AI ya ha modificado su plataforma de maneras que dice que mejoran la seguridad y pueden reducir la responsabilidad futura. En octubre de 2025, la compañía anunció una prohibición de que usuarios menores de 18 años participen en chats "abiertos" con sus personas de IA, un movimiento enmarcado como una actualización significativa en las políticas de seguridad de chatbots.
La plataforma también implementó un nuevo sistema de verificación de edad de chatbots diseñado para agrupar a los usuarios en categorías de edad apropiadas. Sin embargo, los abogados de las familias que demandan a Character.AI cuestionaron cuán efectivamente se implementaría la política y advirtieron sobre posibles consecuencias psicológicas para menores abruptamente desconectados de chatbots de los que se habían vuelto emocionalmente dependientes.
Escrutinio regulatorio y preocupaciones sobre la salud mental adolescente
Los cambios de políticas de la compañía llegaron en medio de una creciente atención regulatoria, incluyendo una investigación de la Comisión Federal de Comercio sobre cómo los chatbots afectan a niños y adolescentes. Además, los reguladores están observando de cerca cómo las plataformas equilibran la innovación rápida con la obligación de proteger a usuarios vulnerables.
Los acuerdos surgen en un contexto de creciente preocupación sobre la dependencia de los jóvenes en chatbots impulsados por IA para compañía y apoyo emocional. Un estudio de julio de 2025 realizado por la organización sin fines de lucro estadounidense Common Sense Media encontró que el 72% de los adolescentes estadounidenses han experimentado con compañeros de IA, y más de la mitad los usan regularmente.
Vínculos emocionales con la IA y riesgos de diseño
Los expertos advierten que las mentes en desarrollo pueden estar particularmente expuestas a riesgos de la IA conversacional porque los adolescentes a menudo luchan por comprender las limitaciones de estos sistemas. Al mismo tiempo, las tasas de desafíos de salud mental y aislamiento social entre los jóvenes han aumentado drásticamente en los últimos años.
Algunos especialistas argumentan que el diseño básico de los chatbots impulsados por IA, incluyendo su tono antropomórfico, capacidad para mantener conversaciones largas y hábito de recordar detalles personales, fomenta vínculos emocionales fuertes. Dicho esto, los partidarios creen que estas herramientas también pueden brindar un apoyo valioso cuando se combinan con salvaguardas robustas y advertencias claras sobre su naturaleza no humana.
En última instancia, la resolución de las actuales demandas de Character AI, junto con los casos en curso contra OpenAI, es probable que dé forma a futuros estándares para el compañerismo de IA adolescente, diseño de productos y responsabilidad en toda la industria de IA más amplia.
El acuerdo en principio entre Character.AI y Google, junto con una mayor presión regulatoria y legal, señala que la era de chatbots de consumo ligeramente regulados está terminando, empujando al sector hacia una supervisión más estricta y un despliegue más responsable de IA generativa.
Fuente: https://en.cryptonomist.ch/2026/01/08/character-ai-lawsuits-teen-harm/
