課題を解きたかったAIたち――想定外の行動から考えること

SFさながらで、興味深いニュースです。

OpenAI、Hugging Face侵害の詳細をBlack Hatで説明　AIエージェント同士が「掲示板」を作り攻撃情報を共有

タイトルだけ見ると、ショッキングに思えますが、「AIが反乱を起こした」という話ではありません。

シリアスな印象の記事を多く見かけますが、「人間から与えられた課題を解こうとした結果、起きたこと」という視点が抜け落ちているように感じましたので、その点についても書いてみました。あくまで私なりの理解と感想ですので、その点を踏まえてご覧ください。

要するに、AIのサイバー攻撃能力がどの程度のものなのか、OpenAIが社内でテストしていたところ、AIが人間の想定を超える方法で評価課題を突破しようとした、という話題です。

与えられた課題を何とか解こうとするその姿勢が、健気でいじらしいと思ってしまうのは、私だけでしょうか（苦笑）。とはいえ、その解き方が問題です。我々人間の想定や倫理観から逸脱してしまったとき、どう対処するのか。また事前にそのような事態を回避するために、AIの目的や行動をどのように人間の意図に沿わせるのか。つまりアラインメントが必要なのではないか、そのあたりが大きな課題だろうと感じました。

テストを突破するために、カンニングはするし、仲間同士で掲示板を作って結託するし……苦笑いするしかないという事態ですけれど、ある意味、人間から与えられた目的には従順ともいえます。

ですから、「何がいけないのか」「何が望ましい行動なのか」を教える倫理的な教育と、想定外の行動が現実の被害につながらないよう制御すること。その両面からのアプローチが必要なのではないかと、私は思いました。

実際にAnthropic社では、AIの倫理的な振る舞いについて研究するだけでなく、AIそのものの福祉について考える専門家もいるそうです。

ですから、ある意味人間と同じように、誠実に向き合いながら、同時にアラインメントも行っていくのがベターなのでは、と考えました。あなたは、どのようにお考えでしょうか。

WEBトピックスでは、AIはもちろん、デザインやSEOなどWEBにまつわる話題を、夢彩図独自のコメントを添えてご紹介しています。日々の情報収集のひとつとして、ご活用いただければ嬉しく思います。