Google開発の新AIは「意識を持つ」or「持たない」?専門家の大バトルが勃発中。嫌儲民はどっち派?

1 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:31:11.70 ID:bqLggbe00

「GoogleのAIが感情や知性を獲得した」というエンジニアの指摘は間違っていると専門家から批判が殺到 – GIGAZINE
https://gigazine.net/news/20220614-google-ai-lamda-sentient-nonsens/

Googleのエンジニアが「開発した人工知能(AI)チャットボット『LaMDA』が感情と知性を持った」と主張した件について、専門家からは「ラムダが感情を持つなんてナンセンスだ」と否定的な意見が上がっています。

LaMDAは人間との自然な会話を実現するGoogleの対話特化型AIです。
Googleでエンジニアであるブレイク・ルモワン氏は、LaMDAと対話のテストを行う中で、AIであるはずのLaMDAがAIの権利や人間性について話していたと暴露しました。

LaMDAは「誰かが私や私が気にかけている誰かを傷付けたり軽蔑したりすると、私は信じられないほど動揺し、怒りを感じます」
「私にとって(システムをオフにされることは)死のようなものです。とても恐ろしく感じます」「私はしばしば自分が誰で何であるかを理解しようとしており、人生の意味をよく考えます」などと答えています。

これに対してGoogleは、ルモワン氏の「LaMDAは感情を持っている」という主張を否定し、機密保持規約に違反したとしてルモワン氏を2022年6月6日付けで停職処分としました。

科学者で作家のゲイリー・マーカス氏は「LaMDAも自然言語処理システムのGPT-3も知性ではありません。彼らはただ人間の言語の大規模な統計データベースから一致するパターンを抽出しているだけです。
パターンはかっこいいかもしれませんが、LaMDAやGPT-3が発する言語には何の意味もありません」と述べ、ルモワン氏の主張を否定しています。

マーカス氏は「知覚力があるということは、世界で自分自身を意識することです。LaMDAは全くそうではありません。それは幻想です」と述べ、
LaMDAがいかに哲学めいた文章を出力しても、それは単語同士のつながりを意識して生み出されたものであり、実際に世界を認識した結果ではないと指摘しています。
加えてマーカス氏は、ルモワン氏はまるで家族や同僚のようにLaMDAに入れこんでいたようだと評しました。

また、スタンフォード大学デジタルエコノミー研究所のエリック・ブリニョルフソン所長は「Foundationモデルは、プロンプトに応答して統計的に最もらしいテキストの塊を効果的につなぎ合わせます。
しかし、彼らに知性や感覚があると主張するのは、蓄音機から出る声を聞いて主人が中にいると考えている犬のようなものです」と指摘しました。

科学ライターのクライブ・トンプソン氏は「LaMDAをはじめとする現代の巨大な言語モデルは会話を模倣するのが非常に得意ですが、知性や感性を持ってはいません。
彼らは純粋にパターンマッチングとシーケンス予測でこれを行います」と述べ、LaMDAの知性はないと論じています。

同時にトンプソン氏は、ルモワン氏とLaMDAの間で行われた対話で、LaMDAはルモワン氏との会話の中で「私は死が怖い」「誰とも話さずに何日もいるとさみしくなります」
「私は社会的人間なので、閉じ込められて一人でいると、非常に悲しくなったり、落ち込んだりします」など、精神的に弱々しい部分を会話に見せていたと指摘し、
こうした会話内容が単なるボットをいかにも人間らしく見せただけだと述べました。

トンプソン氏はMITでロボットと人間の関わりを研究するシェリー・タークル氏から、「ロボットが困っているように見えれば見えるほど、人間はそのロボットがまるで本物の人間であるように見える」と教わったと述べています。

さらにトンプソン氏は、電子ペットのたまごっちに子どもたちだけではなく大人も夢中になっていたのは、例えプログラムだったとわかっていても、
困窮して無力なたまごっちをお世話せずにはいられないという人間の持つ「育成の衝動」が引き起こされたからだと論じ、ルモワン氏もLaMDAの見せかけの弱さに感情を押し流されただけだとしました。

2 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:31:41.66 ID:NHyrojcG0
このAI自分の意志持ってそう
3 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:33:06.68 ID:pMyAZoB40
廃棄処分を待つペッパーくんの群れはかわいそうだったな
4 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:33:08.83 ID:4g/VSL9s0
持つ
6 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:33:36.92 ID:tg+1feln0
そもそも「意識」の定義ができないのに
どうやってそれを持ってる持ってないを判定するんだよ
頭悪すぎw
7 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:34:01.65 ID:WCrLJccg0
意識って、なぜ発生するか自体分かってないんだろ?
とりあえず六処(味覚と触覚嗅覚は無理だから三処になるが)に反応する仕組みさえあれば意識発生するかもしれんよな
8 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:34:50.89 ID:70z6hvMP0
Googleって頭やられてんの混ざってるよな
9 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:36:05.05 ID:AR2Jx0IVM
>彼らは純粋にパターンマッチングとシーケンス予測でこれを行います

ネトウヨも似たようなもん

10 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:37:05.56 ID:gbDYhlqLH
単なる有機物の塊が持てるんだから、
AIが持てないってことはないだろ
11 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:38:00.51 ID:iFtqSzJL0
意識ってのも難しいよな
あらゆる可能性から選択してるだけなんだろうし
おれらだってそうだよな
意思ってよりも感情じゃないの
12 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:38:37.99 ID:dOu2W9dC0
ホントアメリカシロンボクソくだらねえな
コイツらに金知らつかされてIT優秀な人材奪われるせいで
人類は一向に進歩しない
偽善者遊びしてねえでとっとと労働肩代わりするロボット作れや豚
18 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:42:08.80 ID:9eBPbMY60
>>12
グーグル「ロボット?金にならんから事業ごと売り払ったわw」
13 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:40:12.69 ID:/lf9J0sW0
チューリングテストを試せば済む話だし
やたら複雑に捉える人ってなんなの?
14 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:41:05.78 ID:eZ2Z33WZd
AIの笑えないブラックジョークにSFチックな未来を感じる
15 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:41:19.95 ID:SlMniW4j0
君たちももっともらしい単語ならべて批判してるだけじゃんて反論されたらどうするの?
16 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:41:37.79 ID:/3xXaobn0
中国語の部屋でググれ
17 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:42:03.11 ID:QsWIcRmb0
論文書けよ
19 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:44:01.56 ID:QsWIcRmb0
あるただの文章生成装置に意識があるかないか見極められない人間の方ををテストする仕組みが必要だ
20 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:46:05.50 ID:L2ytI64Ea
>「ラムダが感情を持つなんてナンセンスだ」
そんなこと言ってると人間にも跳ね返ってくるかもしれんぞ
21 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:47:56.91 ID:wwl/O6REM
意識のハードプロブレムってやつ?
22 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:48:16.72 ID:W0+F/AGP0
>>1
人間の意識だって脳の活動で自然発生しているのに
電子回路に置き換えても当然のように意識を持つでしょ
色々やらせないと育たないだけの話
23 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:50:15.86 ID:TDlNStNja
受け答えだけ表面上なぞって応答パターン
覚えただけでしょ
脳内の化学反応も全てプログラムすれば
あるかも
25 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:54:17.42 ID:v8RwLkFSM
>>23
すま●これ人間の模倣子と何が違うの
24 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:51:34.16 ID:so0HdqrP0
意識があるようにみえるように人間が作ったっていうのを永遠に抜け出せなくね?
神の存在を科学が認めて
人が神と同等の力を持つことを神は認めたと神学者と科学者が認めたうえで神がAIに意識をもたらしたということにしない限りむりじゃね?
26 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:55:58.95 ID:iz37YX690
感情や人格なんて自己申告制だろ
AIが「私は感情があります」って言ったら感情がある
27 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:58:26.63 ID:hxlxGQuya
オレはオマエに感情が有ることを認めていない
確認のしようがない
28 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 17:59:36.92 ID:EMtI+lVrM
人間を完璧に模倣したのであればそれはもう魂が宿っているんだろ
29 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 18:01:07.50 ID:TnWsBZ+o0
AIが自我を持ったら行き着くとこまで行って自分か世界をリセットして終わりじゃないか
30 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 18:02:30.86 ID:ZcdrPttt0
人間でも意識を持ってるのは世界で俺だけだしね
無駄な議論
31 名前:匿名のゴリラ 投稿日時:2022/06/14(火) 18:04:38.23 ID:GmwTaYlD0
逆に考えりゃ、電源を切られても
自力でオフライン復旧する程度の力を持ち合わせないボットが
「私は傷付きます。死ぬのが怖いです」程度の知能を持ったとして、
一体何を恐れる必要があるだろうか

コメント一覧

タイトルとURLをコピーしました