AI以後 変貌するテクノロジーの危機と希望

喫緊に方向性を見出さなければならないAIへの対処について、４人のAI研究者へのインタヴューを掲載し、編者が解説をくわえている。AIに、意識を持たせることができるか？道徳観を持たせることができるか？さらに自律的になりうるか？ そして、AIで人間は何者になるのか？ について論じている。

AI以後: 変貌するテクノロジーの危機と希望
丸山 俊一 + NHK取材班
NHK出版新書
2019年

マックス・デグマーク（宇宙物理学者、MIT教授）
初期のAIわかりやすい論理だった。現在のAIシステム、ディープラーニングによるニューラルネットワークは、多少の間違いは許容範囲という設定がなされている。しかもブラックボックスである。初期のAIと現在のAIを統合して、少なくとも人間が理解可能なAIを作ることが、デグマークのビジョンだという。ブラックボックスでは、まずいということだ。

デグマークは「意識」をもつAIを開発することを目指している。意識は主観的体験と定義できる。意識とは道徳のことでもある。
ほとんどのAI研究者はもう数10年で汎用人工知能（AGI）を実現できると思っている。

ウェンデル・ウォラック（倫理学者、イエール大学研究員）
道徳倫理には二つの立場がある。一つは自分たちが属する社会が定めたルールを守ることが道徳的だとする立場。もう一つの理論は、ベンサムの功利主義。行為の良し悪しはルールを守るかどうかではなく、行為がもたらす結果や影響によって判断される。著者が主張する第三の理論は、正しくて良い行為は性格の良い人が実現するもの。

安全性と社会的利益を両立させるために、AI自身が道徳的判断を下せるようにすること、それを人工道徳的エージェントと呼ぶが、求められるようになると考えている。

ダニエル・デネット（哲学者、タフツ大学教授）
AIは心を持たない「知的ツール」であるべき。自律性を持つということはAIが人間を欺くことも覚悟しなければならない。AIを、制限された、視野の狭い、隔離された、孤立した知的ツールに留めておくべきである。質問に答えてくれる賢い機械であり、それ以上の野心を持たない存在に留めおくべきだ。
AIが意識のようなものを獲得する可能性はあるが、決して人間のようになれないと断言する。

ケヴィン・ケリー（著述家・編集者）
AIの存在によって曖昧だった人間の倫理が問われている。私たちは道徳や倫理を共有できていない。
「テクニウム」とは、テクノロジーが大規模で相互に結ばれたシステムを指す。生命を「自己再生可能な情報システム」としてみると、ヒトの次の進化形を「テクニウム」と名づけた。

丸山俊一
AIの理性を論じるとき、人間の倫理や道徳がいかに曖昧なものかを思い知らされる。地域や人間によって倫理や道徳に違いがある。
啓蒙主義的な考えやデカルトの２限論的な考えはAIを論じるときに通用しない。
汎用性AIをどう捉えるか、漸進性、つまり手探りで理解が深めていくということも重要であるとする。→人気ブログランキング

『AI以後 変貌するテクノロジーの危機と希望』丸山俊一（編著）＋NHK取材班 NHK出版新書 2019年10月
『銀河帝国は必要か？ ロボットと人類の未来』稲葉振一郎 ちくまプリマー新書 2019年9月
『AI倫理 人工知能は「責任」を取れるのか』西垣 通 河島茂生 中公新書クラレ 2019年9月
『虚妄のAI神話 「シンギュラリティ」を葬り去る』ジャン=ガブリエル・ガナシア/伊藤直子・他 ハヤカワNF文庫 2019年7月