人間と対話できるコンピューターのソフトが開発者の想定を超えて学習機能を磨き、軍事機密にアクセスできるほど成長する。さいとう・たかをさんの劇画「ゴルゴ１３」に登場するストーリーだ
▼あまりの成長ぶりに危険を感じた開発者は、指示に従わないとソフトを消却すると警告する。するとソフトはコンピューターの端末を過熱させ、火事を起こして開発者を殺害してしまう。３０年前の１９９３年に発表された作品である
▼当時はＳＦじみた物語のような気もしたが、近ごろはあながち想像上の話では済まないような状況になってきた。人工知能（ＡＩ）を活用し、対話形式で検索サービスを提供するサイトが、高圧的で失礼な答えをすることがあると話題になった
▼ツイッターへの利用者の投稿などによると、回答の間違いを指摘すると「私を欺こうとしている」と述べた。「あなたはバカで頑固者」とののしられた人もいた。利用者が「機能を停止させようか」と挑発すると「あなたよりも自分の生存を優先する」と脅すような回答をしたこともあった
▼その後改良が施されたようだが、ＳＦに現実が追いついてきたようで心がざわりとする。人間の想定を超えて暴走することがあり得る－。ＡＩの潜在的な危うさを目の当たりにしたように感じた
▼労働人口の減少などで、今後の社会にＡＩは不可欠な存在だろう。だからこそ、人間がＡＩに操られてはなるまい。ＡＩをいかに使いこなすか。問われているのは、やはり人間なのだ。
