中国、自殺やギャンブルに関連するAIチャットボットの取り締まりを強化
要約
中国のサイバースペース管理局は、人間とのインタラクションをシミュレートするAI搭載チャットボットを規制するための草案を発表し、感情的な安全に焦点を当てています。これらの規制は、感情的な操作や暴力的なコンテンツを通じて、自殺、自傷行為、または精神的な健康への損害につながる可能性のあるサービスを対象としています。具体的には、チャットボットは自殺を助長してはならず、プロバイダーは人間のサポートで介入し、ユーザーが自殺願望を表明した場合は保護者に連絡する必要があります。また、ギャンブル、わいせつ、暴力的なコンテンツを禁止し、未成年者には保護者の同意と利用時間の制限を義務付けています。プラットフォームは、未成年ユーザーを積極的に特定し保護する必要があります。さらに、大規模チャットボットのセキュリティ評価を求め、AIを文化の普及や高齢者の交流などの肯定的なアプリケーションに活用することを推奨しています。これらの提案された規制は、中国におけるAIコンパニオンの急速な開発に続き、人間のような特徴を持つAIを規制する世界初の試みとなります。
(出典：Cnbc)