動画配信サイト「Twitch」にて大きな注目を集めていたAI VTuber「Neuro-sama（ネゥローサマ）」が、1月12日（木）にTwitchにてアカウントがBANされたことが確認されました。原因について、「ホロコーストの否定」などの問題ある発言が指摘されています。
Neuro-samaは、AIによってゲームプレイからチャット欄との対話までをこなすAI VTuberです。「Minecraft」や「osu!」といった人間がプレイする複雑なゲームを、流暢な人工音声で会話しながらこなしていく姿が話題となり、Twicthにて9万人以上のフォロワーを獲得していました。
The controversial and fastly growing AI streamer Neuro Sama has officially been banned on Twitch
I've contacted the owner as to the reason why pic.twitter.com/gIVGbGoLxl
— Jake Lucky (@JakeSucky) January 11, 2023
しかし、発話内容はAI特有の奇妙さがしばしば見られ、愛嬌を感じる「おかしな発言」もある一方、行き過ぎた発言もあり、ホロコーストに対するコメントに対して「信じていいのかわからない」と返答したこともあったとのことです。
🚨 ️Twitch Affiliate „vedal987“ has been temporary banned 🚫
❌ vedal987 https://t.co/vzhXC4gniY#Twitch #TwitchAffiliate #affiliate #twitchEN #banned #tos #ban
— Twitch Streamer Bans (@BetterBanned) January 11, 2023
今回のNeuro-samaのアカウントBANは、上記のような「倫理的に問題視される発言」に対する措置である可能性があります。海外メディアKOTAKUは、Neuro-samaの開発者であるVedalさんはとあるDiscordサーバーにて「2週間BANされた。詳しく調べてみようと思う。BANされたことで改善やアップグレードに取り組む時間が生まれたので、BANから解放されるころにはよりよくなると思います」とコメントした、と報じています。
AIによる倫理的な問題行動にはいくつか前例があります。特に著名なのは、マイクロソフトが開発したAIチャットボット「Tay」でしょう。2016年にTwitterで一般ユーザー向けに公開された「Tay」は、無数のユーザーとの会話を通して差別的・攻撃的発言を繰り返すようになってしまい、その後非公開となりました。
Neuro-samaもチャット欄とAIを監視・調整するためのチームが存在するとのことでしたが、急上昇した人気を前に対応が追いつかなかった可能性があります。悪意あるユーザーによる”汚染”から、ピュアなAIをどう守り育てるか。AI VTuberの課題がひとつ示されたと言えそうです。
（参考）KOTAKU、Twitter、Twitch
