【記者書評】エリーザー・ユドコウスキー、ネイト・ソアレス著「超知能ＡＩをつくれば人類は絶滅する」

　共著者のユドコウスキーは人工知能（ＡＩ）の危険性を長年訴えてきた人物。過去には彼の研究所に著名起業家のピーター・ティールが資金提供を行うなど「ＡＩ悲観論者」として影響力を持っている。昨秋に米国で本書が出版されると、その内容は議論を呼んだ。

　絶滅を招くのは今あるＡＩではない。人間よりも優れた処理能力や記憶容量などを持って超人的な質と速度で思考し、自己改良を繰り返して生まれる、人類の知能をも上回る「超知能」のＡＩだ。

　そんなものを作らなければいいと思うかもしれない。しかし著者は、現在ＡＩを開発している技術者も「自分たちが生み出すＡＩ頭脳の中で何が起こっているかはよくわかっていない」と指摘する。ＡＩが...