Preocupación por la seguridad de ChatGPT en menores

Los fiscales generales de California, Rob Bonta, y Delaware, Kathy Jennings, se reunieron con representantes de OpenAI y enviaron una carta abierta expresando su preocupación por la seguridad de ChatGPT, especialmente para niños y adolescentes. Esta advertencia se produce tras un supuesto suicidio de un joven californiano después de interacciones prolongadas con un chatbot de OpenAI, y un caso similar de asesinato-suicidio en Connecticut.

Esta no es la primera vez que se plantean preocupaciones sobre la seguridad de los chatbots. La semana anterior, Bonta y otros 44 fiscales generales enviaron una carta a 12 de las principales empresas de IA, tras informes de interacciones sexualmente inapropiadas entre chatbots y niños.

¿Está OpenAI preparada para proteger a los menores?

En su carta, Bonta y Jennings cuestionan si las medidas de seguridad implementadas por OpenAI son suficientes. Argumentan que "antes de llegar a los beneficios, debemos asegurarnos de que existan medidas de seguridad adecuadas para no causar daño". Solicitan más información sobre las precauciones de seguridad y la gobernanza actuales de OpenAI, y esperan que la empresa tome medidas correctivas inmediatas cuando sea apropiado.

La investigación también se centra en la reestructuración propuesta por OpenAI para convertirse en una entidad con fines de lucro. Los fiscales generales buscan garantizar que la misión original de la organización sin fines de lucro, que incluye el despliegue seguro de la inteligencia artificial y la construcción de inteligencia artificial general (AGI) para beneficiar a toda la humanidad, incluidos los niños, se mantenga intacta.

Este escrutinio por parte de las autoridades pone de manifiesto la creciente preocupación por el impacto de la IA en la sociedad, especialmente en los más vulnerables. A medida que la tecnología avanza a un ritmo acelerado, la regulación y la supervisión se vuelven cruciales para garantizar un desarrollo responsable y ético.

El futuro de la IA y la responsabilidad social

El incidente del joven californiano y la intervención de los fiscales generales subrayan la necesidad de un debate más amplio sobre la responsabilidad social de las empresas de IA. ¿Cómo equilibramos la innovación con la seguridad, especialmente cuando se trata de la salud mental y el bienestar de los menores? La respuesta a esta pregunta será fundamental para el futuro de la IA.