Robloxは、子供のオンライン上の安全を強化するため、AIを活用した早期警告システム「Roblox Sentinel（みまもり機能）」を発表しました。本システムは、子供を危険にさらす可能性のあるメッセージ内容をAIが検知し、グルーミング行為（信頼関係を装って近づく行為）の兆候を特定できるのが特徴です。
この機能は、AIによる自動検出と専門アナリストによる確認を組み合わせた運用体制をとっており、検出の精度を継続的に高める仕組みが構築されています。問題のある通信が検知された際には、Robloxが速やかに調査を行い、必要に応じて法執行機関への通報も可能です。2024年後半からはRoblox内ですでに運用が始まっており、ユーザー保護に役立てられています。Robloxの最高安全責任者であるマット・カウフマン氏は、AIが安全対策の中核を担っているとしています。
Robloxは、この「みまもり機能」をオープンソースとして公開し、他のデジタルプラットフォームでも活用可能にする方針です。この取り組みは、メタバースを含むデジタル環境全体の安全 as性を高めることを目的としています。カウフマン氏は、安全に関する課題はすべてのプラットフォームに共通しており、業界全体での協力が重要だと述べています。
Robloxは、業界団体や外部組織とも連携しています。そのひとつ、ROOSTは安全なオンライン環境を実現するための基本的なリソースが不足している状況を改善する目的で設立された団体です。
同団体のプロダクト責任者であるジュリエット・シェン氏は、高度な安全ツールへのアクセスの不平等が多くのプラットフォームに共通していると指摘しています。このような連携により、業界全体での有害行為への対処が期待されています。
みまもり機能リリースは大炎上が発端か
2025年8月以降、Robloxをめぐる大規模な炎上騒動が起きています。あるユーザーがRobloxの運営サイドからアカウント停止処分と訴訟警告を受けたことが発端です。このユーザーは14歳の頃にRoblox上で開発者からグルーミング被害を受けた経験を持ち、子どもの安全を守るRoblox内での活動も行っていました。しかしRoblox側は、その活動を「公式の安全対策を迂回する自警団的行為」と位置づけ、プラットフォームの安全を脅かすものと判断しました。
今回の処分をきっかけに、ユーザーからは強い反発が起こり、オンライン上での抗議が広がるだけでなく、現実のデモ活動にまで発展しています。
こういった背景から、Robloxの年次開発者向けカンファレンス「RDC2025」（米現地時間9月5〜6日開催）を前にして、著名なYouTuberやクリエイターが相次いで参加見送りを表明しました。事態は法的・政治的領域にも広がり、8月15日にはルイジアナ州司法長官がRobloxを提訴したほか、一部の連邦議員は児童の安全対策に関する透明性を求める請願書を作成しています。
Robloxは以前から未成年ユーザーの安全対策が不十分だと批判されてきました。一方で後手となりながらも、過去には保護者向けの管理機能（フレンド管理、不適切なバーチャル空間のブロック、スクリーンタイム確認）や13歳未満ユーザーへの交流制限などのガイドライン変更を実施し、2024年には音声チャットを監視するAIモデルを導入しました。現在は日本語を含む7言語対応を強化し、安全に関する情報をまとめた「セーフティ・センター」も更新しています。
（参考）公式提供情報
