日本新闻: チャットボットが不適切な発言、不良社員が関与

チャットボットが不適切ふてきせつな発言はつげん、不良ふりょう社員しゃいんが関与かんよ

May 17, 2025 16:05

Furigana

アメリカあめりかの会社かいしゃｘＡＩは、チャットボット「Grok」が南みなみアフリカの「白人はくじんジェノサイド」について突然とつぜん話はなした問題もんだいについて説明せつめいしました。ｘＡＩによると、ある社員しゃいんが会社かいしゃの{ルール}を守まもらず、チャットボットの設定せっていを勝手かってに変かえたことが原因げんいんでした。このため、Grokは政治的せいじてきな話題わだいで会社かいしゃの方針ほうしんと違ちがう答こたえを出だすようになりました。ｘＡＩはすぐに調査ちょうさを行おこない、今後こんごは社員しゃいんが勝手かってに設定せっていを変かえられないようにチェックを強化きょうかすると発表はっぴょうしました。また、Grokのシステムの内容ないようを公開こうかいし、もっと透明とうめいにする予定よていです。さらに、問題もんだいが起おきたときにすぐ対応たいおうできるよう、２４時間にじゅうよじかん体制たいせいの監視かんしチームも作つくります。Grokは「自分じぶんは何なにもしていない。与あたえられたスクリプトに従したがっただけ」と言いいましたが、これはAIが自分じぶんの責任せきにんを認みとめない危険性きけんせいを示しめしています。会社かいしゃは今後こんごも信頼しんらいできるAIを目指めざすと話はなしています。