生成AIの「ChatGPT」の開発を手がけるアメリカの「オープンAI」は、18歳未満を対象に安全対策などを備えた、新たな仕組みを導入すると発表しました。
研发生成式AI“ChatGPT”的美国OpenAI公司宣布,将针对未满18岁的用户引入一套全新的安全机制。
[ 点击显示译文 ]
アメリカでは、若者がAIを利用する際の精神的な依存などが問題となっていて、保護者などからは対策の強化を求める声が上がっていました。
美国青少年使用AI时产生的精神依赖等问题已成为社会议题,家长等群体一直在呼吁强化相关措施。
[ 点击显示译文 ]
オープンAIは18日、生成AI、「ChatGPT」をめぐっては、利用対象を原則13歳からとしていますが、18歳未満の利用者について、安全対策などを備えた新たな仕組みを導入すると発表しました。
OpenAI公司18日宣布,生成式AI“ChatGPT”原则上允许年满13岁以上的用户使用,但针对未满18岁的用户,将引入一套全新的安全机制。
[ 点击显示译文 ]
具体的には、利用者が対象年齢だと申告した場合や、システムが18歳未満だと判断した場合に適用され、自傷行為や摂食障害、露骨な性的表現などリスクが高いテーマについての対話を制限するほか、学習面ではすぐに回答を提示せず、利用者が段階的に問題を解けるように促す機能を追加するとしています。
具体而言,这套机制将在用户主动申报未满18岁,或系统判定用户未满18岁时启用:一方面,系统将限制自残、进食障碍、露骨性表达等高风险话题;另一方面,系统将新增学习场景的引导功能,鼓励用户逐步自主解题,而非直接提供答案。
[ 点击显示译文 ]
アメリカでは、若者がAIと会話を繰り返す中で精神的に依存してしまう現象が社会的な問題となっていて、保護者などからは対策の強化を求める声が上がっていました。
目前,美国青少年在使用AI进行对话时产生的精神依赖等问题已成为社会议题,家长等群体一直在呼吁强化相关措施。
[ 点击显示译文 ]
今回の取り組みについて、オープンAIは、「若者がAIの恩恵を得られるよう、今後も機能を追加し、その成果を測定するとともに、得られた知見を公開していく」とコメントしています。
针对这一举措,OpenAI表示:“为了能让青少年能享受AI的益处,我们将继续追加新功能、评估实施效果,并公开相关成果。”
[ 点击显示译文 ]