lily jamaliCorresponsal de tecnología en Norteamérica y y
Liv McMahonPeriodista de tecnología de la BBC
ReutersOpena planea permitir que una amplia gama de contenidos, incluido el erótico en su famoso Chatbat Chatgt, «sean tratados como adultos», como parte de los adultos, según afirmó su jefe Sam Altman.
En una publicación del martes X, Altman dijo que el próximo chatbot del próximo chatbot permitirá más humanos – – «Pero si quieres maximizar, no somos tan máximos».
XAI de Elon Musk recuerda recientemente la introducción de dos chatbots de contenido sexual claro en la tienda de comestibles, lo que ayudó a atraer más suscriptores que pagan más.
Es posible intensificar la presión sobre los legisladores para que introduzcan sanciones estrictas a los colegas del chatbat.
Openai no respondió a las solicitudes de comentarios de la BBC después de la publicación de Altman.
Los cambios anunciados por la compañía se producirán después de que padres adolescentes estadounidenses se quitaran la vida a principios de este año.
El reclamo presentado por Matt y Maria Rain, los padres de Adam Rain, de 16 años, fue el primer acto legal que alega que Openai estaba equivocado.
California ha criticado a los padres de la compañía: está diseñada para promover el uso saludable de su chatbat, no han ido demasiado lejos.
La familia tiene conversaciones entre Adam, quien murió en abril, y el chat que explica que tenía pensamientos suicidas.
Altman dijo que en el pasado Chatgpiti era «un límite para asegurarnos de que tuviéramos cuidado con los problemas de salud mental».
«Somos conscientes de que esto lo ha hecho menos útil y agradable para muchos usuarios que no tienen problemas de salud mental, pero queremos obtener este derecho dependiendo de la gravedad del problema», afirmó Altman.
Dijo que la compañía ahora ha podido reducir los riesgos graves para la salud mental y tiene nuevas herramientas para «asegurar restricciones» en la mayoría de los casos.
«En diciembre, cuando apliquemos la restricción de edad de manera más completa y a nuestros clientes adultos les gusten los consumidores adultos, nos permitiremos ser más que erótica».
Los críticos dicen que la decisión de permitir el erotismo en la plataforma muestra control federal a nivel federal y estatal.
«¿Cómo se van a asegurar de que los niños no puedan acceder a las partes del chat que son exclusivas para niños y al material erótico que ofrece erotismo?» dijo Jenny Kim, socia de la firma jurídica Bois Shiller Flexer. «La IA abierta, como una tecnología muy grande en este lugar, utiliza personas como conejillos de indias».
MS estuvo involucrada en un reclamo contra Kim Meta, que afirma que el algoritmo de Instagram de la compañía es perjudicial para la salud psicológica de los adolescentes.
«Ni siquiera sabemos si su control de edad va a funcionar», dijo.
En abril, Se informó la crisis tecnológica El usuario puede tener cuentas registradas como minero para crear esa erótica gráfica abierta.
Openai dijo en ese momento que la empresa estaba creando una solución para limitar dicho contenido.
A. Encuesta Según publicó este mes el Centro sin fines de lucro para la Democracia y la Tecnología (CDT), uno de los cinco estudiantes informó que él o cualquier persona que supiera que tenía una relación romántica con la IA.
El lunes, el gobernador de California, Gavin Newsome, anunció un proyecto de ley aprobado por la legislatura estatal que impide a los desarrolladores proporcionar chatbots de inteligencia artificial a niños, y si las empresas no prometen aumentar el comportamiento nocivo del software.
Sr. Newsam «Es imperativo aprender a comunicarse de forma segura con los sistemas de IA de los adolescentes» Mensaje Eso junto con su veto.
A nivel federal, la Comisión Federal de Comercio de EE. UU. (FTC) ha iniciado una investigación sobre cómo los chatbots de IA interactúan con los niños.
El mes pasado, el Senado de los Estados Unidos aprobó una legislación bilateral que clasificaba los chatbots de IA en productos. La ley permite a los consumidores presentar demandas de responsabilidad contra los desarrolladores de chatbat.
El anuncio de Altman el martes se produjo cuando los escépticos cuestionaban el valor de las empresas de tecnología de inteligencia artificial.
Los ingresos de Openai están creciendo pero nunca es rentable.
