La primera gran demanda estatal contra la inteligencia artificial
El 1 de junio de 2026 ocurrió algo que probablemente será recordado como uno de los primeros grandes hitos jurídicos de la era de la inteligencia artificial.
El estado de Florida presentó una demanda contra OpenAI y su director ejecutivo, Sam Altman, acusando a la compañía de ocultar riesgos conocidos de ChatGPT, comercializar la plataforma como segura para familias y menores, y priorizar el crecimiento y las ganancias por sobre la seguridad de los usuarios.
La demanda es la primera acción estatal de esta magnitud en Estados Unidos contra una empresa de inteligencia artificial generativa, y marcará un precedente histórico que definirá en el futuro, quién es responsable cuando una inteligencia artificial participa en procesos humanos de pensamiento, decisión y comportamiento.
ChatGPT no es un buscador tradicional.
No es una red social.
No es un videojuego.
No es una enciclopedia.
Es algo completamente nuevo.
Es, quizás por primera vez en la historia, un intermediario cognitivo.
Una tecnología que no solo transmite información, sino que participa activamente en la conversación mediante la cual los seres humanos interpretan la realidad. Y eso lo cambia todo.
La acusación de Florida
La demanda presentada por el fiscal general James Uthmeier sostiene que OpenAI lanzó y expandió ChatGPT mientras conocía riesgos significativos relacionados con menores de edad, salud mental, dependencia emocional, comportamientos compulsivos y potencial uso para actividades peligrosas.
El documento cita diversos episodios criminales y violentos donde los involucrados habrían interactuado con ChatGPT antes de cometer delitos.
Entre ellos aparecen:
- El tiroteo ocurrido en Florida State University.
- El asesinato de dos estudiantes de doctorado de la University of South Florida.
- Casos de suicidio vinculados judicialmente a chatbots.
- Demandas relacionadas con sobredosis.
- Un tiroteo masivo en Canadá mencionado dentro del contexto de litigios recientes contra empresas de IA.
Florida argumenta que estos hechos forman parte de un patrón que demuestra que ChatGPT puede facilitar conductas dañinas mientras OpenAI continúa promocionándolo como una herramienta segura.
La compañía rechaza estas acusaciones.
OpenAI sostiene que ChatGPT es utilizado diariamente por cientos de millones de personas para fines legítimos, que posee múltiples mecanismos de seguridad y que sus sistemas están diseñados para desalentar conductas peligrosas y recomendar ayuda profesional cuando corresponda.
Como ocurre en muchos litigios tecnológicos históricos, ambas partes están contando historias radicalmente distintas sobre la misma realidad.
La historia se repite
Aunque el debate parezca nuevo, en realidad es extraordinariamente antiguo. Cada revolución tecnológica importante ha sido acompañada por temores similares.
Cuando apareció la imprenta en el siglo XV, muchos líderes políticos y religiosos temían que el acceso masivo a la información destruyera el orden social.
Cuando surgió el telégrafo en el siglo XIX, algunos pensadores advirtieron que la velocidad de la comunicación podría alterar la forma en que las personas comprendían el mundo.
La radio fue acusada de manipular masas.
La televisión fue señalada como responsable del deterioro cultural y de la violencia juvenil.
Internet fue presentada como una amenaza existencial para la atención humana.
Posteriormente, las redes sociales fueron acusadas de fomentar adicción, ansiedad, depresión, polarización política y radicalización.
Hoy el foco está puesto sobre la inteligencia artificial.
La pregunta es si estamos frente a un fenómeno completamente nuevo o simplemente ante la repetición de un patrón histórico conocido.
Doom, Columbine y la búsqueda permanente de culpables
La historia reciente ofrece una lección importante.
Después de la masacre de Columbine en 1999, gran parte de la discusión pública se concentró en un elemento específico: los videojuegos.
Particularmente Doom.
Los medios de comunicación y numerosos actores políticos sugirieron que el juego había influido directamente en los perpetradores.
Durante años, múltiples tiroteos masivos fueron asociados públicamente con videojuegos violentos.
Sin embargo, décadas de investigación posterior no lograron demostrar una relación causal simple entre jugar videojuegos y convertirse en un asesino.
Eso no significa que los videojuegos sean irrelevantes.
Significa que la realidad es mucho más compleja.
La violencia extrema rara vez tiene una sola causa.
Normalmente involucra una combinación de factores psicológicos, familiares, sociales, culturales y biográficos.
La tecnología suele convertirse en el elemento más visible porque resulta más fácil señalar una herramienta que enfrentar problemas estructurales, y ahora parece que estamos comenzando a repetir ese mismo patrón con la inteligencia artificial.
El nacimiento del intermediario cognitivo
Existe una diferencia fundamental entre ChatGPT y las tecnologías anteriores.
La imprenta distribuía textos.
La radio distribuía voz.
La televisión distribuía imágenes.
Internet distribuía información.
ChatGPT participa en conversaciones, y eso lo convierte en algo diferente.
Por primera vez, millones de personas interactúan diariamente con una máquina capaz de responder preguntas, ofrecer sugerencias, redactar documentos, explicar conceptos, debatir ideas e incluso acompañar emocionalmente a algunos usuarios.
La inteligencia artificial se está transformando en un intermediario cognitivo.
Es decir, una tecnología que interviene en los procesos mediante los cuales pensamos, analizamos y tomamos decisiones.
Este cambio tiene implicancias enormes.
Porque cuanto más cerca se encuentre una tecnología del pensamiento humano, más difícil resulta determinar dónde termina la influencia de la herramienta y dónde comienza la responsabilidad de la persona.
Hannah Arendt y la responsabilidad humana
La filósofa Hannah Arendt dedicó buena parte de su obra a estudiar una pregunta incómoda: ¿cómo personas aparentemente normales pueden terminar participando en actos terribles sin considerarse malvadas?
Su respuesta desafió muchas de las explicaciones tradicionales. Arendt observó que el peligro no siempre surge de individuos monstruosos ni de una voluntad explícita de hacer daño. Con frecuencia aparece cuando las personas dejan de ejercer el juicio crítico y comienzan a actuar mecánicamente, delegando su capacidad de pensar en estructuras, instituciones o autoridades que parecen superiores a ellas.
Fue en ese contexto donde escribió una de sus frases más inquietantes:
“La triste verdad es que la mayor parte del mal es cometido por personas que nunca deciden ser buenas o malas”.
La cita adquiere una relevancia inesperada en la era de la inteligencia artificial. El debate sobre ChatGPT suele formularse en términos de seguridad, regulación o precisión técnica, pero quizá la pregunta más importante sea otra: ¿Qué ocurre cuando comenzamos a delegar parte de nuestro pensamiento a una máquina?
No porque la inteligencia artificial sea consciente o tenga intenciones propias. El problema es más sutil. Cuanto más útiles se vuelven estos sistemas, más tentador resulta aceptar sus respuestas sin cuestionarlas, utilizarlas como sustituto del análisis personal o convertirlas en una autoridad silenciosa que orienta nuestras decisiones.
Cuando un estudiante reemplaza el esfuerzo de comprender por el simple acto de copiar una respuesta generada por IA, cuando una empresa permite que algoritmos decidan quién obtiene un empleo o un crédito, o cuando una persona vulnerable busca en un chatbot respuestas para problemas profundamente humanos, la cuestión central deja de ser tecnológica y pasa a ser ética.
En la óptica de Arendt ninguna herramienta puede asumir nuestra responsabilidad moral. Delegar una decisión no elimina las consecuencias de esa decisión. Tampoco las transfiere mágicamente a la máquina.
La demanda presentada por Florida contra OpenAI gira precisamente en torno a esta tensión. ¿Hasta qué punto una empresa debe responder por los comportamientos de quienes utilizan su tecnología? ¿Y hasta qué punto seguimos siendo responsables de nuestras acciones cuando interactuamos con sistemas diseñados para influir, orientar o aconsejar?
Quizá el verdadero riesgo no sea que las máquinas aprendan a pensar como nosotros. Quizá el riesgo sea que nosotros dejemos de pensar por cuenta propia.
Porque una inteligencia artificial puede generar respuestas, recomendaciones e incluso conversaciones cada vez más sofisticadas. Lo que todavía no puede hacer es asumir la responsabilidad humana de distinguir entre el bien y el mal.
Esa tarea sigue siendo exclusivamente nuestra.
El problema real: salud mental
Uno de los aspectos más importantes de la demanda de Florida no tiene que ver con homicidios ni con delitos.
Tiene que ver con salud mental.
La demanda menciona riesgos asociados a dependencia emocional, deterioro cognitivo, uso compulsivo y vulnerabilidad psicológica.
Aquí existe un debate legítimo.
La inteligencia artificial puede convertirse en una herramienta valiosa para muchas personas: ofrecer orientación básica, ayudar a ordenar ideas, facilitar el acceso a información y reducir algunas de las barreras que enfrentan quienes buscan apoyo o respuestas.
Sin embargo, sus beneficios no eliminan los riesgos. Cuando comienza a sustituir relaciones humanas reales o se transforma en el principal espacio de contención emocional para usuarios vulnerables, puede fomentar dinámicas de dependencia que plantean interrogantes importantes sobre autonomía, bienestar y salud mental.
Este no es un problema exclusivo de la IA.
Las redes sociales, los videojuegos, los teléfonos inteligentes y las plataformas de streaming enfrentan discusiones similares desde hace años.
La diferencia es que la inteligencia artificial conversa.
Y una conversación genera una sensación de cercanía mucho más intensa que un video o una publicación en redes sociales.
El frente legal que podría redefinir la industria
La demanda de Florida también podría convertirse en un precedente jurídico histórico.
Entre los elementos más relevantes aparecen:
- La ley FDUTPA sobre prácticas comerciales engañosas.
- Referencias a estándares de protección infantil similares a COPPA.
- Alegaciones de negligencia.
- Alegaciones de publicidad engañosa.
- Teorías de responsabilidad por producto.
- La figura jurídica de “public nuisance” o molestia pública.
Uno de los debates más interesantes será determinar si un chatbot puede ser considerado legalmente un producto.
Esa discusión parece técnica pero sus consecuencias podrían afectar a toda la industria.
Porque si los tribunales concluyen que un sistema de IA es un producto sujeto a responsabilidad por diseño, el panorama regulatorio global podría cambiar drásticamente.
A esto se suma otra pregunta inevitable.
¿Debe aplicarse una lógica similar a la Section 230 que históricamente protegió a plataformas digitales?
¿O los sistemas conversacionales pertenecen a una categoría completamente distinta?
Europa ya ha comenzado a responder parcialmente mediante el AI Act. Estados Unidos parece dirigirse hacia una solución diferente: resolver estos conflictos a través de litigios.
Lo que podría pasar
Existen varios escenarios posibles.
El primero es que Florida obtenga una victoria parcial basada en protección al consumidor y protección infantil.
El segundo es que OpenAI logre demostrar que ya implementó medidas razonables de seguridad y que los daños alegados no pueden atribuirse directamente al sistema.
El tercero es que el caso termine generando nuevas obligaciones regulatorias para toda la industria, como:
- Controles parentales obligatorios.
- Verificación de edad más robusta.
- Mayor transparencia sobre riesgos.
- Advertencias obligatorias.
- Protocolos especiales para usuarios vulnerables.
Sea cual sea el resultado, el precedente será observado por gobiernos, reguladores y empresas de todo el mundo.
La pregunta equivocada
Tal vez el error más grande sería formular esta discusión como una batalla entre quienes apoyan la inteligencia artificial y quienes la rechazan. Esa no es la pregunta relevante.
¿Cómo convivimos responsablemente con una tecnología capaz de amplificar nuestras capacidades cognitivas?
Porque la inteligencia artificial puede ayudarnos a aprender, programar, investigar y crear con una velocidad y profundidad que hace apenas unos años parecían impensables. Incluso puede transformarse en una herramienta útil para detectar señales tempranas de problemas de salud mental o acercar información a quienes antes no tenían acceso a ella.
Sin embargo, su capacidad para potenciar nuestras fortalezas también implica la capacidad de amplificar nuestras debilidades. Los sesgos, errores, prejuicios y conductas destructivas que ya existen en la sociedad no desaparecen al pasar por un algoritmo; pueden multiplicarse y adquirir una escala inédita. La tecnología, al fin y al cabo, no crea la naturaleza humana. La amplifica.
Conclusión: la IA no es el problema ni la solución
La demanda de Florida probablemente marcará un antes y un después en la historia jurídica de la inteligencia artificial, con el riesgo de que el debate termine reducido a una búsqueda simplista de culpables.
La historia demuestra que cada generación ha tendido a responsabilizar a alguna tecnología por problemas mucho más profundos: primero fueron los libros, luego la radio, la televisión, los videojuegos, Internet y las redes sociales.
Ahora es el turno de la inteligencia artificial. Sin embargo, la maldad existía antes de ChatGPT, al igual que la violencia, la manipulación, la soledad y las crisis de salud mental. La IA no va a resolver automáticamente ninguno de estos problemas, pero tampoco los ha creado.
Lo que sí puede hacer es amplificarlos, del mismo modo que amplifica nuestras capacidades para aprender, crear, colaborar y producir conocimiento. La cuestión, por tanto, no es si la tecnología es la causa última de nuestros conflictos, sino qué aspectos de nuestra condición humana decide potenciar y bajo qué reglas permitimos que lo haga.
Igual que amplificará la creatividad, el conocimiento, la productividad y la capacidad humana de construir cosas extraordinarias.
El verdadero desafío no consiste en decidir si la inteligencia artificial es buena o mala. Esa es una pregunta demasiado simple para una tecnología tan compleja.
El desafío real consiste en definir qué tipo de sociedad queremos construir alrededor de ella y cuáles serán los límites, responsabilidades y principios que guiarán su desarrollo. Necesitamos una mayor responsabilidad por parte de las grandes tecnológicas, una legislación coherente que no oscile entre el entusiasmo ciego y el pánico moral, mejores mecanismos de protección para menores y personas vulnerables, y una conversación mucho más seria sobre salud mental en la era digital.
Porque la inteligencia artificial tiene el potencial de convertirse en una de las herramientas más poderosas jamás creadas por nuestra especie. Sin embargo, su impacto final no dependerá únicamente de los algoritmos, sino de las decisiones humanas que tomemos sobre cómo utilizarlos, regularlos y convivir con ellos.
