人工知能(AI)

2023年7月 5日 (水)

チャットGPT vs.人類 平和博

GPTとは、生成事前学習トランスフォーマーGenerative Pretrained Transformer)の略である。トラスフォーマーは、グーグルの研究者たちが2017年に発表した深層学習モデルのこと。
チャットGPTは、一般の人にとって最先端のAIを利用するハードルを劇的に下げた。
Gpt-vsチャットGPTvs.人類
平和博
文春新書 
2023年6月 222頁

チャットGPTは、もっともらしいデタラメを吐き、それは「幻覚」と呼ばれている。正しさや適正さで判断しているわけではない。人間が持っている常識がないからだ。
しかしデタラメな回答が悲劇を招くこともある。グーグルは生成AIのバードの誤った回答を表示したことで、親会社アルファベットの株価が急落し、1日で総額1000億ドルが消失した。

論文における剽窃検知ツールを試みようとしている。
オープンAI社が提供しているAIによる生成テキストの検知ソフト「AIテキスト分類器」は、テキストがAIによって生成されている可能性を、非常に低い、低い、不明、やや高い、高いの5段階で評価している。チャットGPTは、参考文献すら捏造してしまう。
「電子透かし」も使われているが、決め手となるような効果的な対策はない。

チャットGPTの5大リスク、プライバシーの侵害、企業秘密の漏洩、雇用の喪失、サイバー犯罪、そして制御不能な進化への懸念について、それぞれの事例を提示している。

某画家の作品として生成AIが作成した画像を、グーグル検索が取り込み、それが某画家の代表作と表示してしまった。
ある収賄事件についてチャットGPTに回答を求めると、内部告発者が被告となっていた。
チャットGPTに、氏名、メールアドレス、住所、クレジットカードの下4桁の番号が表示されたことがあった。
企業秘密が漏れる。アマゾンの社内データとチャットGPTの回答とが類似する事例があったため、社内の機密情報をチャットGPTに入力しないよう警告を出したという。

AIの進出によって効率化の影響を受ける職業は何か。
全面的に影響を受ける職業として数学者、税理士、財務定量アナリスト、ライター・作家、ウェブデザイナー。GPT自身による評価では、公認会計士・監査人、ニュースアナリスト・記者・ジャーナリスト、弁護士秘書・事務スタッフ、臨床データマネジャー、気象変動アナリストなど84職種が挙げられた。
身体活動が中心となるアスリートや料理人、電線設置・修理工などは影響なし。

米IBMのCEOは従業員の採用を一時停止するという。そうすると約7800人の雇用が喪失するハリウッドの脚本家たちは映画、テレビにおける脚本をAIの学習データとして使うことの制限を掲げた。

大規模言語モデルによってフィッシングやオンライン詐欺は、より迅速に、ずっと本物らしく、そして極めて大規模にできるようになった。
米大統領戦においてフェイクニュースが問題になったが、より巧妙に、ローコストで行いうるだろう。
「街の声」や「ネットの声」が捏造されるかもしれない。

チョムスキーらは、AIには知性が欠落していると指摘した。
極めて深刻な欠陥は、知性の最も重要な能力を欠いているということだ。その事象がどんなことかとか、過去にどうだったか、今後どうなるのか、という記述と予測の能力だけでなく、何がその事象ではないのか、そしてその事象の可能性のあるものとは何か、可能性のないものは何かということを説明する能力がないのだ。それらは説明という能力の構成要素であり、真の知性の証だ。

チャットGPT、は、万能さが喧伝され、そこに知性を投影してしまいがちだ。知性の中核となる価値判断応力の部分は空洞だ。チョムスキーらの指摘は、知性よりも、むしろ思考の欠如、規範への隷属の姿が浮かんでくるとする。生成AIの広がりは事実関係や倫理を逸脱した情報が膨張していくリスクも意味する。チョムスキーはそれらを疑似科学と呼び、そのような事態に警鐘を鳴らす。

タイムは、2023年1月18日の記事で、オープンAIがチャットGPTで有害な内容を抑制するためのデータ加工を、サンフランシスコのアウトソーシング会社「サマ」に委託し、実際の作業はケニアの労働者が担ったと報じている。
現地の労働者が受け取った賃金は、時給1.32ドルから2ドル。オープンAI社は時給12.50ドル総額20万ドルで契約を結んだという。どんでもない搾取が行われていた。

チャットGPTのデータの収集には、問題のあるサイトも含まれていた。ロシアの国営メディア「RT」はフェイクニュースの発信源であると、EUは配信を全面禁止している。RTやヘイトスピーチの温床とされる「4chan」や白人至上主義のサイト、反トランスジェンダーのサイトが含まれていた。

AI覇権競争では米国、中国が抜きん出ている。日本ははるかに遅れている。→人気ブログランキング
にほんブログ村

 

2023年11月
      1 2 3 4
5 6 7 8 9 10 11
12 13 14 15 16 17 18
19 20 21 22 23 24 25
26 27 28 29 30    
無料ブログはココログ