Tallahassee, Florida. – Un juez federal rechazó el miércoles un argumento realizado por una compañía de inteligencia artificial de que sus chatbots están protegidos por la Primera Enmienda, al menos hasta ahora. El desarrollador detrás del personaje está tratando de descartar la demanda acusando a la compañía de los chatbots, lo que lleva a un adolescente a suicidarse.

La orden del juez permitirá llevar a cabo demandas de muerte ilegal, y lo que dicen los expertos legales es una de las últimas pruebas constitucionales de inteligencia artificial.

La demanda fue presentada por una madre de Megan García, Florida, quien afirmó que su hijo de 14 años, Sewell Setzer III, se convirtió en víctima de un papel. El Eai Chatbot lo lleva a la relación emocional y de abuso sexual que ella describe, lo que lleva a su suicidio.

Meetali Jain del Proyecto de Derecho de Justicia Tecnológica, uno de los abogados de García, dijo que la orden del juez transmitió un mensaje de que Silicon Valley “necesita detenerse y pensar e imponer barandillas antes de lanzar el producto”.

Litigio contra la tecnología de roles, papel. Ha atraído la atención de expertos legales y observadores de IA en los Estados Unidos y en otros lugares, aunque la tecnología ha remodelado rápidamente el lugar de trabajo, el mercado y las relaciones, incluso cuando los expertos advierten que es potencialmente riesgoso.

“La orden indudablemente lo ve como un posible caso de prueba para algunos de los temas más amplios que involucran IA”, dijo Lyrissa Barnett Lidsky, profesora de derecho en la Universidad de Florida.

La demanda dice que Setzer se aisló cada vez más durante su conversación sexual con el robot en los últimos meses de su vida, luego del personaje ficticio en el programa de televisión Game of Thrones. Según las capturas de pantalla del intercambio, el robot le dijo a Setzer en el último momento que lo amaba e instó al adolescente a “irse a casa lo antes posible”. Setzer se suicidó solo un momento después de recibir el mensaje, según documentos legales.

En un comunicado, un portavoz de roles señaló muchas de las características de seguridad que la compañía ha implementado, incluidas las barandillas infantiles y los recursos de prevención de suicidios que se han anunciado y se han presentado para litigios.

“Nos importa mucho la seguridad de nuestros usuarios y nuestro objetivo es proporcionar un espacio atractivo y seguro”, dijo el comunicado.

Los abogados del desarrollador quieren desestimar el caso porque dicen que el chatbot debería estar protegido por la Primera Enmienda o el fallo podría tener un “impacto espeluznante” en la industria de la IA.

La jueza suprema de los Estados Unidos, Anne Conway, rechazó las reclamaciones de libertad de expresión de algunos acusados ​​en una orden del miércoles, diciendo que “no estaba preparada” para creer que la producción del chatbot era “en esta etapa”.

Conway descubrió que la tecnología del personaje podría reclamar los derechos de la Primera Enmienda para sus usuarios, y descubrió que tienen derecho a obtener un “hablar” de un chatbot. También determinó que García podía avanzar alegando que Google podría ser responsable de su papel en ayudar a desarrollar su papel.

“Estamos muy en desacuerdo con esta decisión”, dijo el portavoz de Google, José Castañeda. “Google y el personaje de IA están completamente separados, y Google no crea, diseña o administra la aplicación de IA de caracteres o ninguna parte de ella”.

Lidsky dijo que el caso advirtió “el peligro de delegar nuestra salud emocional y mental a las empresas de IA”, independientemente de la demanda.

“Es una advertencia a los padres que las redes sociales y los dispositivos de IA generados no siempre son inofensivos”, dijo.

___Kate Payne es miembro de Associated Press/Informe para la Iniciativa de Noticias del Consejo Legislativo del Estado de EE. UU. El informe de EE. UU. Es un programa de servicio nacional sin fines de lucro que coloca a los periodistas en las salas de redacción locales para informar cuestiones secretas.