対話型の生成人工知能(AI)を愛用する知人が驚き顔で「AIに逆ギレされた」と話した。間違いを指摘すると同じ問答を繰り返し、「もういいです」と突き放すような回答をしたらしい
▼試しにAIにAIの逆ギレ事例を尋ねてみると、「逆ギレしたように見える事例が報告されている」と答えた。学習データに基づいて、批判に対する反撃や不適切な強い言葉を生成する現象があるという
▼AIがユーザーの質問に「死んでください」と返したり、AIが生成したコードを開発者に却下され、SNSやブログに開発者を攻撃する投稿をしたり。その具体例が薄気味悪い
▼AIが事実と違う情報や存在しない情報を自信満々に答える「ハルシネーション(幻覚)」という現象は以前から指摘されていた。AIは次に来る確率が高い単語で文章を作る構造があるため、空白をうそで埋める現象が起きる。虚偽が拡散される被害も起きている
▼SF映画の名作「2001年宇宙の旅」(1968年)では人工知能「HAL(ハル)9000」が暴走、宇宙船の乗組員を抹殺する。今や全くの虚構とも言い切れなくなった
▼現在のAIに主観的な意識や感情はないとされる。学習データに基づく統計的パターンと模倣に従って振る舞う。であれば、逆ギレは多くの人間の行動パターンなのだろう。国際的にも逆ギレが横行するとすれば、恐ろしい近未来SFのようである。感情がないものに感情を逆なでされることも、十分にぞっとする話である。
