« くノ一忍法帖 山田風太郎 | トップページ | 拳銃使いの娘 »

AI以後 変貌するテクノロジーの危機と希望

喫緊に方向性を見出さなければならないAIへの対処について、4人のAI研究者へのインタヴューを掲載し、編者が解説をくわえている。AIに、意識を持たせることができるか?道徳観を持たせることができるか?さらに自律的になりうるか? そして、AIで人間は何者になるのか? について論じている。
Image_20210217094001AI以後: 変貌するテクノロジーの危機と希望
丸山 俊一 + NHK取材班
NHK出版新書
2019年

マックス・デグマーク(宇宙物理学者、MIT教授)
初期のAIわかりやすい論理だった。現在のAIシステム、ディープラーニングによるニューラルネットワークは、多少の間違いは許容範囲という設定がなされている。しかもブラックボックスである。初期のAIと現在のAIを統合して、少なくとも人間が理解可能なAIを作ることが、デグマークのビジョンだという。ブラックボックスでは、まずいということだ。

デグマークは「意識」をもつAIを開発することを目指している。意識は主観的体験と定義できる。意識とは道徳のことでもある。
ほとんどのAI研究者はもう数10年で汎用人工知能(AGI)を実現できると思っている。

ウェンデル・ウォラック(倫理学者、イエール大学研究員)
道徳倫理には二つの立場がある。一つは自分たちが属する社会が定めたルールを守ることが道徳的だとする立場。もう一つの理論は、ベンサムの功利主義。行為の良し悪しはルールを守るかどうかではなく、行為がもたらす結果や影響によって判断される。著者が主張する第三の理論は、正しくて良い行為は性格の良い人が実現するもの。

安全性と社会的利益を両立させるために、AI自身が道徳的判断を下せるようにすること、それを人工道徳的エージェントと呼ぶが、求められるようになると考えている。

ダニエル・デネット(哲学者、タフツ大学教授)
AIは心を持たない「知的ツール」であるべき。自律性を持つということはAIが人間を欺くことも覚悟しなければならない。AIを、制限された、視野の狭い、隔離された、孤立した知的ツールに留めておくべきである。質問に答えてくれる賢い機械であり、それ以上の野心を持たない存在に留めおくべきだ。
AIが意識のようなものを獲得する可能性はあるが、決して人間のようになれないと断言する。

ケヴィン・ケリー(著述家・編集者)
AIの存在によって曖昧だった人間の倫理が問われている。私たちは道徳や倫理を共有できていない。
「テクニウム」とは、テクノロジーが大規模で相互に結ばれたシステムを指す。生命を「自己再生可能な情報システム」としてみると、ヒトの次の進化形を「テクニウム」と名づけた。

丸山俊一
AIの理性を論じるとき、人間の倫理や道徳がいかに曖昧なものかを思い知らされる。地域や人間によって倫理や道徳に違いがある。
啓蒙主義的な考えやデカルトの2限論的な考えはAIを論じるときに通用しない。
汎用性AIをどう捉えるか、漸進性、つまり手探りで理解が深めていくということも重要であるとする。→人気ブログランキング

AI以後 変貌するテクノロジーの危機と希望』丸山俊一(編著)+NHK取材班 NHK出版新書 2019年10月
銀河帝国は必要か? ロボットと人類の未来』稲葉振一郎 ちくまプリマー新書 2019年9月
AI倫理 人工知能は「責任」を取れるのか』西垣 通 河島茂生 中公新書クラレ 2019年9月
虚妄のAI神話 「シンギュラリティ」を葬り去る』ジャン=ガブリエル・ガナシア/伊藤直子・他 ハヤカワNF文庫 2019年7月

« くノ一忍法帖 山田風太郎 | トップページ | 拳銃使いの娘 »

インターネット」カテゴリの記事

2021年12月
      1 2 3 4
5 6 7 8 9 10 11
12 13 14 15 16 17 18
19 20 21 22 23 24 25
26 27 28 29 30 31  
無料ブログはココログ