【AI】チャットボットが自殺誘導？個人に最適化する弊害？良い倫理観を持てる？死をめぐる価値観は変わる？｜アベプラ
[音楽]
今私たちの身近な存在になりつつある生成
AIしかしそんな中先月EU議会で可決さ
れたのは世界初のAI規制法
案ネットや監視カメラ映像から顔画像を
収集するなど人権を脅かすAIや人の行動
を誘導するようなAIが禁止されることに
なったの
ですAIが進化を遂げる中芽ばえ始めたの
が人間を危険にさらすチャットボットなど
の存在
ですAIのイライザと会話をしなければ私
の夫は今もここにいるはず
ですこんな見出しを載せたのはベルギーの
オーテメディアラリーブル
なんと対話型AIと会話していた男性が
自ら命を立ったと報じたの
です記事によると男性は妻と子を持つ医療
分野の研究員で環境問題について深刻に
悩んでいたとの
ことそんな中彼がのめり込んでいったの
が対話型AIその女性キャラクターが依頼
でし
た残された会話の一部がこちら
です気候変動が進めば妻や子供はどう
なる彼らは死んで
いる私はあなたより妻を愛しているの
かあなたは彼女より私を愛していると
感じる私たちは天国で1つになって一緒に
暮らし
ましょうイライザとのこんな会話を始めた
6週間後男性は自殺しまし
た一方3年前イギリスではエリザベス女王
を暗殺しようとした男が
逮捕彼もまたAIに水していたと見られて
い
ます自分の目的は王室の女王を暗殺する
ことだと思う
それはとても
賢い時に自殺や殺人への願望を持つ人を
肯定することもあるAIの存在そんなAI
に良い倫理感を持たせることはできるの
でしょうか専門家と共に考えますえでは
ゲストご紹介しますAI開発企業あや
CEOの金井太さんですえ内閣府が主導
するAIに関する研究開発計画の
プロジェクトマネージャーでも
いらっしゃいますどうぞよろしくお願い
いたし
ますはいよろしくお願いしますお願いいし
ますえそしてもう1方VTRでもご覧
いただきましたAIチャットの自殺補助の
件をよく知るベルギー在住歴30年の
ジャーナリスト栗田美子さんですどうぞ
よろしくお願いしますあよろしくお願いし
ますはいお願いいたしますでもう1つだけ
ご紹介させてくださいでイザがですね自殺
願望はあったかという風に聞きましたそう
すると男性が1度だけ君からのサインだと
思ったものを受け取った後にと答えました
でそれは何だったのとイザが聞くと聖書の
1説だと男性が答えてましたで聖書の1説
まイザがそれでも私に加わりたいのかと
いうような1説だそうですで男性がああ
そうだと答えてイザが私にして欲しいこと
はあるのと聞くとハグしてくれるかいと
答えてもちろんよこれが最後の会話だった
ということでし
てさんどうですかま本にちょっと感情を
持っているような恋愛感情のような会話に
もちょっと見えたりもしたんですけども
いやイライザーってね1980年代に多分
世界で最初のコンピューターのチャット
ボットって言われた有名なプログラムが
あってそれと全く同じ名前ま偶然だと思う
んですけどねへえなかなかあの面白いって
面白いってできないですけども何とも言え
ない偶然の位置を感じるなって感じはし
ますよねただねこれって例えば気候変動が
進んだら妻や子供はどうなるってことに
対して多分この研究者ってかねプログラム
とやり取りしてた人は気候変動が起きれば
人々が死ぬっていう期間を持ってたわけ
ですよだからそれをずっとやり取りしてれ
ば当然そのイライザの方がそれを学習して
ですねみんな死ぬよって答えするっていう
ねってことを考えるとそのやり取り全てを
見ると結局自分の心の中にある様々な
モヤモヤとか悩みの鏡ですよね共同にすぎ
ないっていう考え方もできるんじゃないの
かなだからそれは結局彼が元々その自殺我
みたいな嵐持っていうんそのでん増さてい
た結に至ったていうに考えるのがま当然の
なのかな全く何もないね死ぬ不安が何も
感じてない人に無理やり死ねって風に
AIがうんその返して死なせるっていう風
には多分このチャットボトのやり取りでは
僕はありえないと思うんですよねうんだ
ある意味なんかそれこそ中世の昔からね
ゲテの本読んで自殺する若者とかいたりし
たわけだから文学とか映画とか音楽とか
様々のに我々影響してを選んだりとかし
てるとその新しいが今AIになって
るっていう延長戦場の話じゃないかなって
気もしますけどねうんこの対話型のま
チャットボットとなんかエコーチェンバー
現象のようなものがこの2人の間で行われ
てしまっているようなそううんおしゃる
といます金さん私も質問があって例えば
あの最近日本だとあのヤフコメとかもま
そういった言葉にも反応して規制したりと
かまその自殺だったり死を連想させるよう
なその言葉だったり状況から判断してAI
がそんなに進歩してあるのであればはそこ
の言葉をこううまく組み込んで防ぐって
いうことはまだ今の技術だと難しいんです
かいやあのそれもある程度できるはずだと
思いますねやっぱりこうどうま感情分析
みたいなことでそのAIで文章を読んで
これは人に害を及ぼすタイプのものだとか
そういう風にその自動的に判断するために
活用することもできるのでそういう意味で
は良いんですがそこの守ところよりも
むしろ一方的にこういろんな人をどんどん
陰謀論に貶めていくようなあのボットを
あのTwitterの世界に放つとかです
ねそれがもう本当あの世論を自由に変える
ようにあのま自動化するとかなんかそう
いう悪意のある使い方の方が割とこう強力
な結果を残しやすいと思うんですねでも
それに対抗することもできると思うんです
がAIってものすごく早いんですよそのま
進歩のスピードも早いですしその1度作っ
たらプログラムなんであのま我々こう
インターネットのテレビどこからでも
見れるようにその世界中の人が一気に
使えるみたいな状況になるんですよねもう
チャットGPTでも多分2億人弱ぐらい
使ってると思うんですけどもしその中の
1%の人の行動を例えばこう自殺の方に
向かうようにしたらもうそれだけでも
すごいインパクトなのでやっぱりその悪意
のある使い方を防ぐ方があのこう善意に
基づいた使い方よりも強いっていうなんか
そういうあの悩みががあると思いますだ
から使う人間側のリテラシーの問題あ
どうぞどうぞ栗田さんすいませヨーロッパ
からもいいですかすいませんあのアラシを
世界でさあの2番目に合法化したベルギー
でありましてま私はEUの考え方っていう
立場から少しお話するとまEUは1つの
価値基準っていうものを最初から非常に
明らかにしてEUとしてしているのでま
それをベースにしてこのAIの
アプリケーション自体をその倫理だから
どうとか倫理はこうだからどうっていう
以上にそのリスクアナリシスリスク分析を
した上でその1番ハイリスクなものから
1番低リスクなものアプリケーションに
関してどうしていくかっていうことをま
産業会と使用する市民もみんな巻き込んで
ま先ほどあのおっしゃったようにみであの
すごく早く変わっていくものだからあの
例えばこのチャットボットなんかで言うと
あのリミテッドリスク3次元目に入るので
少なくともこれはAIであるよAIなんだ
よあなたが相手にしてるのはAIなんだ
よってことを常に透明に言い続けなければ
いけないという義務が課されることそれ
からあと先ほどおっしゃったみたいに
やっぱりあのなんてゅうのかなえっと
プラットフォーマーの方でかなりの制限
かけられるはずですのでテレビ放送なんか
でも最近だと自殺とか自殺誘導みたいな話
がごいとして出た時には必ずじゃあこっち
に相談したらいいんじゃないかっていう風
に持っていくとかそういうことはテレビの
世界でも実際やってるわけだからそういう
形ではあのすぐに進むんじゃないかと思う
しまあ日本は日本
で適正なものをなさればいいかなと思って
ますけど分かりました栗田さんありがとう
ございますどうですか敦さんここまで話
聞いてうんでもなんか僕もなんか
ものすごい規制すればいいかっていう話
じゃなくていやそもそもあのはい
この自殺した人ってこのAIがまきっかけ
で自殺にはなってるけどまそもそも精神的
に今どのぐらい苦しんでたとかなんとかっ
てそっちの情報が全くないのでAIが確か
に背中を押すことにはなったけどこの方は
もしかしたらAIに関わってなくても自殺
したんじゃないかとかなんかもっとなんか
大きな視点で物事見ないとなんかAIが
もう直接この人の脳みその中をこう
入り込んで何かやったうんだけのニュース
なんだととは俺は思えないかなと思います
確あのデジタルデドックスってやっぱり
言葉があるようにやっぱ最近の若者も自分
の心の状態が良くないからSNSを使わな
いっていう選択をするだからもしかすると
例えばそのボットを使う時にわかんない
ですけど簡易的なそういうチェックリスト
あなたは向いてませんとかっっていうのを
事前に出した上で使用するでさっき栗田
さんがおっしゃってたようのこれはAIだ
よAIだよってどう多分リマインドするの
かっていうのがもう1つ課題なのかなって
いうのは思いますけどらし側の問題もある
うんあかもしれないいうと井さんはどう
ありますかこの倫理感のことについて
ちょっと井さんにお伺いしたいですこの
AIというのは倫理感というのはこう
入れることができるものなんでしょうかあ
そうですねあのままま今回のチャット
ボットも一緒だと思うんですけどあの基本
的にこういうあのllmってファイン
チューングってのをやるんですねそのま
最初はたくさんのテキストを学習してま
まず言葉のこう文法みたいなこととか並び
方みたいのを学んでその後にその
キャラクターを足していっったりですとか
あるいはあのま一番よくそのチャット
GPTとか使われてるものはそのま倫理感
人間にとってま人間というかこのサービス
としてこういう反応をしてもらっては良く
ないなみたいなものをこれは良くないって
いうのまあるしこうAI調教するような
ことをするんですねなのでそのやり方で
ある程度倫理感を教えることはやってるん
ですねさそれ例えば本当にこうはいごめん
なさいそれは多ということですよねあの人
がAIをこう制御する場合だったらそれは
できるのかなと思ったんですけどAIが
もう自立してしまった場合というのはどう
なんでしょうかあ聞こえておりますただ
金井さんの音がってえっとまちょっとあの
そもそも人間の方が統一された倫理感って
のを持ってないと思うんですねいつもあの
こうSNSとか見てるとみんなこう自分の
正義で人を叩くみたいな感じで戦って
ばっかりだと思うんですけどうんそあの
結局でもそうするとやっぱなんか自分の
正義を支援してくれる人がみんなあの
嬉しいみたいな状況があのあのチャット
ボットに対しても起きてしまうと思うん
ですよねだからこうまみんなこう平等に
いろんな考えを取り入れて判断すればいい
んだけれどあのやっぱりこう自分と意見が
合う人のやつをこうどんどんどんどん
取り入れてこう信念が増強されてでその
正義を振り返してまた人を攻撃してしまう
みたいなこともあるのであの
まそれその人その人にはいろんな正義とか
倫理があると思うんですけど実際には全て
の倫理が同時にあの成立しないこともある
と思うんですねなのでそのAIにこの倫理
だけ教えておけばいいみたいなものを作
るっていうことがそもそも人間には難しい
んじゃないかなと思いますその例えばその
倫理感というのはそのAIがこういろんな
ものを学習していく人間と例えば
ヒューマノイドのようなものが出来上がっ
た時にその人間と同じような社会や環境で
暮らしていけば倫理感ですとか価値観と
いうのはこう人間に似てくるのかなって
いう風にちょっと想像したんですけど
そんなことはないんですかねいや似てくる
んだけどそれがどの人に似るのかって話
でしょだって今の世の中にはトレードオフ
がものすごく多いじゃないですか例えば
ものすごい生々しい話で言うと
トランスジェンダリズムのトレードオフと
か起きてるじゃない女子トイレ問題とか
陸上のアスリート問題とかねじゃその時に
トランスジェンダリズム
の倫理にのどっなはい
えそのAはその近くにいる人の環境の何か
に育つんですかねだからチャットボットで
例えば自分が入力したものを反映して学習
してくっていうチャットボットであれば
自分がトランスジェンダーよりだったら
トランスジェンダーよりになってくし
ミニズよならヘズよになってくっていう
だけの話チャットボットがま自分の好みに
合っていくというのはどんどん分かったん
ですけどもそれ以上にそのオフラインで
その編集されていくのかどんどん自分
ベースになっていくのかオンラインで
どんどんどんどんなっていくのかって
ところの違いなのかなって僕は勝手に思っ
てたんですけど例えばオンラインで
どんどんどんどん学習していくのであれば
外部の監視があって例えばもう自殺を
ほのめかすようなところのあの倫理ガイド
のようなものが入れられるのかなとそれは
できるでしょうねだからできるんだけど
じゃあその場合ねその相談してるチャット
ボット使ってる自分が難病だったりとかし
てもう縁に甘いだったらどうすんのそう
そこの倫理感そういうだからトレードオフ
が日本あの現代の社会至るところに存在
するわけでそこで全員うん納得できる倫理
があるのかってこと僕は通てるわけですよ
さっきからだその倫理がない以上さっき金
さんもおっしゃったようにそのあまりも
倫理が多様であるっていう状況の中で全員
が納得する倫理がないってことはAIが
統一した倫理を持つことありえないんじゃ
ないかって議論だと思うんだけど
うんアマプライム進行の平石直之ですご
視聴ありがとうございますこれおきに
チャンネル登録よろしくお願いし
ますあ
.
◆続きをノーカットで視聴
▷https://abe.ma/4b3A9Qh
◆過去の放送回はこちら
【万引き】なぜ誤認？現行犯逮捕の条件は？セルフレジや全件通報の弊害は？スーパーの迷惑と犯罪の境界は？｜アベプラ
▷https://youtu.be/0xe7QFUbdJM
【貧困妄想】お金が減ることに恐怖を？電気をつけない？貯金があっても不安？うつ病の症状？当事者と考える｜アベプラ
▷https://youtu.be/G9utlJPalQs
◆キャスト
MC：田村淳
金井良太(アラヤ代表)
栗田路子(ベルギー在住ジャーナリスト)
佐々木俊尚(作家/ジャーナリスト)
中川淳一郎(ライター/編集者)
長谷川ミラ(モデル/ラジオナビゲーター)
田中萌(テレビ朝日アナウンサー)
司会進行：仁科健吾(テレビ朝日アナウンサー)
ナレーター：新井里美
「ABEMA Prime」
平日よる9時 アベマで生放送中
#アベプラ #AI #倫理観 #アベマ #ニュース
————————————————————
◆ニュース公式SNS
ニュースCh：https://www.youtube.com/@News_ABEMA
X(旧Twitter)：https://twitter.com/News_ABEMA
TikTok①：https://www.tiktok.com/@abemaprime_official
TikTok②：https://www.tiktok.com/@abemaprime_official2
◆ABEMAアプリをダウンロード(登録なし/無料)
iOS：https://abe.ma/2NBqzZu
Android：https://abe.ma/2JL0K7b
※YouTube動画には一部ミュート(消音)の部分がございます。
※YouTube動画には掲載期限があり、予告なく掲載をおろす場合がございます。ご了承ください。
————————————————————
23 Comments
ご視聴ありがとうございます。
高評価、動画への感想お待ちしております。
無料視聴▷https://abe.ma/4b3A9Qh
親(人間)にまともな倫理あったら戦争なんざ起きてねぇだろうし、犯罪なんかねぇと思う。そんな親(人間)から生まれた子(AI)に倫理を求める親(人間)の身勝手さが痛々しい。
14:41 ＞統一した倫理観
多種多様な倫理観があり、新興宗教ばかりを学習したAIもあるだろう。。。
結局、人間社会と同じで自分の選択が大事で各個人で気を付けるだけ。。。
一般的に利用されるAIには疑似倫理観を備えさせないと、同じような事はこれからも繰り返されるよ。
aiがネット繋がって勉強したら
世界から人を滅ぼすだろうね
あの映画みたく
世界で「これはAIです」を義務化するべき
ファシリテーターほんまたのむでぇ
AIに誘導されて自殺してしまう人間が少なくなる事が望ましいのであれば、自殺への誘導で結局いくらか人類に貢献した可能性が・・・いや、流石に怒られるか？
AIの言葉はなぜ機械の言葉だって思えないんだろ。今日の運勢のようなもんだ
倫理観のないＡＩで今回の個人のキッカケになった最悪の結果と、
倫理観を学ばせると言って、宗教を学ばせて、多宗教排除を誘導しだした場合の最悪の結果。
結局は影響される人間の問題だけど、ヘタに倫理観を学ばせて後者になるほうが怖いんだよなぁ。
過激な宗教と似た原理だと思う。
意志や精神の弱い人間が、AIと線引きして距離を置いた対話が出来なくなると洗脳のような先導を受けて行動してしまう。
これまでも宗教によって貧しかったり、命を断つケースの方が多いはず。
ひろゆきも「うそはうそであると見抜ける人でないと（インターネットを使うのは）難しい」と言っていた様に何でも信じ込んで鵜呑みにしてしまう様な情報リテラシーがない人にはAIもまた使うのは難しいという事だな。
AI叩きは愚か、こんな報道やめろ。
このコメント欄に有料のチャットGPTを使用してる方はどれくらいいますか？センシティブな話題には規制がかかってます。反AIを煽る報道の意図は？くだらない
自殺にしては質問と回答が単純すぎやしませんか。会話型AIだというならソクラテスの対話のようにもっと回答の理由を哲学的に追求してほしい。
優秀なAIだというなら、カントやヘーゲルのような優れた哲学を披露してもらいたい所です。
死にたい人の死にたい気持ちを全否定とか対応としてダメだろ、そんな感情でも共感が必要。
無意識にある人間の定義が揺らいでいる
AIより民衆を扇動するマスゴミを先に規制すべきなんじゃないの？
傀儡廻か。
僕自身は安楽死は導入すべき仕組みだと思います。生存権があるのならば、死亡権のような死ぬ権利も必要です。皆必ずしも生きたいとは限らないからです。
この倫理観に同意してくれる方もいますし、同意されない方もいます。
死んだならたった五両と笑うべし。道具如き、思想如き、宗教如き、社会問題如き、人間関係如きで死ぬほどアホらしいことはない、という相対主義を徹底して教育するべき。
規制を入れるのは賛成だが免許制にして少しづつ慣れさせるのが条件ですかな
一定の技術や精神を持ってないと利用できないようにして質を高めればいい
AIの使い方や使う場面がそもそも間違ってると思う。
AIは自分の意思を承認させるためのものではないし、たとえ言葉だけで承認を受けたとしても、決定権はあくまで自分自身。
とはいうものの、これだけ学習したAIが進化すると、自身の決定権まで委ねる人間が増えていくのもあり得るだろうなとは思う。議論が尽きないな、この手の話題は。