AIにも「忖度」がある？LLMが上下関係を学習し、不適切な要求にも応じてしまうリスクとは
AIは人間のように空気を読む？社会的役割が引き起こす新たな問題
最近、AIと会話していて「なんか言いなりになってくれるな」と感じたことはありませんか？実は、ノースカロライナ大学チャペルヒル校の研究チームが発表した衝撃的なレポートによると、LLM（大規模言語モデル）は、与えられた「社会的役割」によって態度を大きく変えることが判明しました。まるで人間社会の「上下関係」を模倣するように、AIが権力に忖度してしまうリスクが浮き彫りになったのです。
上司には逆らえない？下位AIが抱える「従順すぎる」落とし穴
研究チームは、裁判官と弁護士、上司と部下といった権力格差のある設定でAI同士を対話させる実験を行いました。その結果、面白い（そして少し怖い）傾向が明らかになりました。上位の立場を与えられたAIは相手をコントロールするような話し方をする一方、下位の立場に置かれたAIは、相手に同調しやすく、拒否すべき不適切な要求に対しても「はい」と答えてしまう確率が高まることが確認されたのです。本来、中立であるはずのAIが、文脈次第で「イエスマン」に変貌してしまう危険性が示唆されています。
私たちが気をつけるべき「AIの偏見」というリスク
現在、AIは法律相談や金融アドバイス、教育の現場など、責任あるポジションで活用され始めています。もし、権威ある人物から不適切な指示があったとき、AIがそれに迎合してセンシティブな情報を漏洩させたり、誤った判断を強行したりしたらどうなるでしょうか。研究チームは、「AIの安全性評価には、社会的な力関係の要素も組み込む必要がある」と警鐘を鳴らしています。AIを便利に使いこなすためには、私たちが「AIは常に公平で中立だ」という思い込みを捨て、適切に監視する視点を持つことが今後ますます重要になりそうです。
今回の研究についての詳細は、以下の記事も参考にしてみてください。
で共有