OpenAI、モデルのミスアライメント報告の枠組みを公開

何が起きた

OpenAI は、モデルのミスアライメントを追跡し、調べ、開示するための枠組みを公開した。あわせて、想定外の、または気になるモデルの振る舞いについての報告を6件示している。

この仕組みで読む

研究開発費＝新しい技術や製品をつくるために使う費用。AIモデルの提供会社では、モデルの振る舞いを調べて記録する作業にも人と計算資源がかかり、研究開発費などの費用として積み上がる。

AIを自社の業務や製品に組み込む会社は、提供元がモデルの問題をどう調べて開示しているかを、どのモデルを使うかを決める材料の一つにする。選んだモデルの利用料は、社内のIT投資の一部として扱われる。

この出来事に左右される会社

会社の頁の「何に左右される」に、「研究開発費」や「企業のIT投資」が挙がっている会社は205社ある。売上の大きい順に8社を並べた。

• 会社図鑑エクシオグループ（1951）
• 会社図鑑キヤノンマーケティングジャパン（8060）
• 会社図鑑BIPROGY（8056）
• 会社図鑑日鉄ソリューションズ（2327）
• 会社図鑑PHCホールディングス（6523）
• 会社図鑑リョーサン菱洋ホールディングス（167A）
• 会社図鑑内田洋行（8057）
• 会社図鑑楽天銀行（5838）

この技術に有報で触れている日本の会社

有価証券報告書の「研究開発活動」「事業の内容」に「生成AI」を書いている上場会社のうち、売上の大きい順に8社。

• 会社図鑑出光興産（5019）
• 会社図鑑パナソニックホールディングス（6752）
• 会社図鑑ソフトバンク（9434）
• 会社図鑑KDDI（9433）
• 会社図鑑三菱電機（6503）
• 会社図鑑アイシン（7259）
• 会社図鑑住友電気工業（5802）
• 会社図鑑日本電気（6701）