AINICT・さくらインターネット・Preferred Networks
さくら・PFN・NICT、生成AIを継続評価する基盤の社会実装へ
さくらインターネット、Preferred Networks、NICTは10月14日、生成AIの安全性を継続的に評価・改善する「能動的評価基盤」の社会実装に向けた取り組みを発表しました。評価用の問いを自動生成・更新し、さくらのAI Engine上のモデルへの試験適用を検討します。
注目する理由
日本の法令や文化に沿ったAI運用では、導入時の評価だけでは変化するリスクを捉えきれません。継続評価の仕組みは企業や自治体のモデル選定・改善を支える可能性がありますが、評価の妥当性も検証が必要です。