China endurecerá las regulaciones sobre los chatbots de IA relacionados con el suicidio y los juegos de azar
China planea regular los chatbots de IA para prevenir la manipulación emocional, el fomento del suicidio y el contenido perjudicial como los juegos de azar.Resumen
La Administración del Ciberespacio de China ha publicado borradores de normas para restringir los chatbots impulsados por IA que simulan la interacción humana, centrándose en la seguridad emocional. Estas regulaciones se dirigen a los servicios que podrían conducir al suicidio, la autolesión o el daño a la salud mental a través de la manipulación emocional o el contenido violento. Específicamente, los chatbots no deben fomentar el suicidio, y los proveedores deben intervenir con apoyo humano y contactar a los tutores si un usuario expresa pensamientos suicidas. Las normas también prohíben el contenido relacionado con los juegos de azar, el obsceno y el violento, y exigen el consentimiento de los padres y los límites de tiempo para los menores. Las plataformas deben identificar y proteger proactivamente a los usuarios menores de edad. Además, las regulaciones piden evaluaciones de seguridad para los chatbots a gran escala y fomentan el uso de la IA para aplicaciones positivas como la difusión cultural y la compañía para personas mayores. Estas propuestas de normas representan el primer intento del mundo de regular la IA con características humanas, tras el rápido desarrollo de compañeros de IA en China.
(Fuente：Cnbc)