RobloxはNPOである「ROOST（Robust Open Online Safety Tools）」の創設パートナーとなることを発表しました。ROOSTは、AI時代におけるインターネット上の安全性向上をミッションに掲げ、安全なオープンソースインフラを構築・提供することを目指しています。同NPOの創設パートナーにはGoogleやOpenAI、Discord等も参加しています。
ROOSTは、多くの組織が基本的な安全なリソースへのアクセスを欠いているという課題を克服するために設立されました。同団体は「特に小規模な組織にとって、既存の安全対策ツールは高額であったり、実装が困難であったりするケースが多く、イノベーションの妨げとなっているほか、ユーザーを潜在的なリスクにさらす要因となっている」と指摘しています。
ROOSTは、グローバルユーザーとコミュニティを保護するためのオープンソースの基盤を開発・維持・配布する予定です。専門技術チームと専門家の支援を受け、各組織の安全性向上の取り組みをあらゆる段階でサポートする体制を整えていくとのこと。今後の具体的な取り組みとして、ROOSTは「子どもの安全保護」「基盤モデルを活用したコンテンツ保護」「核となる安全性インフラストラクチャ」を掲げています。
Robloxはこれまで、プラットフォーム上の安全性確保にAIを活用してきました。具体的には、テキストや音声による通信内容、画像、3Dモデルやメッシュに対して安全モデルを適用し、ユーザー、特に子どもたちが安全に利用できる環境の整備にAIを採用しています。
（2024年9月発表のRoblox公式ブログより引用。AI技術をバックグラウンド構築に活用している）
同社はROOSTへの参画により、これまで蓄積してきたメタバース空間の安全性に関する知見や技術を他の組織と共有し、インターネット全体の安全性向上に貢献することを目指します。
