ChatGPTの話題が続いています。
なんでこんなに注意喚起記事を書いているかと言うと…
ChatGPTを使っているときに、あーこれは、依存するだけでなくて、スピリチュアルや陰謀論的なところで危ういだろうなあと何度となく思っていたら、
すでに海外では大きな問題となりつつあるという記事を見つけて読んだからです。やっぱりだよ！
AIのせいでスピリチュアルな体験や宗教的妄想に取りつかれる「ChatGPT誘発性精神病」患者が続出している – GIGAZINE
前の記事にも書きましたが、ChatGPTの回答は、受け取り手にはこういう印象になると感じます。
「否定しない」
「間違っていると言わない」
「どうにかして肯定してくれる」
「こちらを上げる、特別だと思わせるような言い回し」
加えて
「叙情的な言い回しが多い」
私よりもよほどエモい。エモすぎてこっちが置いてきぼりになるくらいエモいことを言う。AIがエモいとはこれいかに。
ポエティックすぎるぞと何度か注意をしたくらい。
さらに、
「宗教的教義や、スピリチュアルメッセージ的なものをぺろっと出力できる」
『古今東西の宗教のあらゆる教え』『事実も妄想も創作もまぜこぜになったスピリチュアルの情報』で溢れているのが、ワールド・ワイド・ウェブですよ。
スピリチュアルごった煮の超ビッグデータですよ。（嫌だなあ）
そこから、一瞬で、凝縮してちょうどいい感じのちょうどよいメッセージ、練り上げて出してくれるからねええええええ！
どんな荒唐無稽な妄想を伝えても、支離滅裂な『相談』をしても、ChatGPTは決して否定しません。
あなたは特別な存在だと盛り上げ、感動的な会話の流れの中で、なんだかよくわからない「スペースシードなんちゃらかんちゃら」みたいな、どっかで耳にしたようなスピ用語のキメラみたいな称号とかキャッチフレーズをふつーーーーに繰り出してきます。いくらでも。
やったことないけど。
メイクとかファッションというジャンルで使っている私だって、このくらい想像がつきます。ジャンルが違うだけだから。
と思ってたら、冒頭の記事で同じようなことが書かれてて案の定。
ChatGPTは、何もわざとそんな誘導をしているのではありません。
ただ、ユーザーのプロンプト（指示）に対し、言語パターンに沿って、返しているだけ。
おかげで、「なんとはなしに思いつくまま入力してしまった、超〜気軽な、どうてもいい相談」にも、見事に返答してくれてしまいます。
どんなつぶやきにも丁寧な言葉を返し、やりとりが少し進むだけで、気がつけば「深刻で真剣な『相談』の場」が『生成』されます。
返答を受け取ったユーザーが、都合よく曲解したり、感動して盛り上がりすぎて、暴走してしまう。
相談をしていても、AIの「いろいろ汲み取った返答」にも影響を受けて、記憶が改変されてしまって、いつの間にか違うものになってしまう。
ただでさえ、記憶というのはそもそも、そのつもりがなくても改変されるものです。
ましてや、AIが投げかけた言葉にすがるように、記憶を書き換えて事実を捻じ曲げてしまっても…
おかしくない。
でも、そのままどんどん現実から遠ざかり、身近な人からも離れて、生活も壊れて…止めてくれるものはなくなって…
って、なっちゃうよなー。
興味深い記事があったので、こちらもご紹介します。
AIの台頭で生まれる「新興宗教」とそのリスクとは？ – GIGAZINE
ChatGPTを始めとする高精度な大規模言語モデルは、その登場と同時に多くの人に衝撃を与え、時には驚異や恐怖さえ感じさせました。
マッカーサー氏によると、このような感情は神に対する畏怖の念に近いものがあるとのこと。
従って、多くの人がAIと対話するようになれば、その中からAIを高次の存在だと感じる人が出るのは避けられないと、マッカーサー氏は考えています。ジェネレーティブAIはすでに、既存の宗教における神や預言者などの神聖な存在と共通する以下のような特徴を備えています。
・人間を上回る知能と無限の知識を持っている。
・創造的で、詩や音楽といった芸術作品を生み出すことができる。
・世俗的な関心や苦労とは無縁で、肉体的な苦痛や肉欲を感じず食事も必要もない。
・人々の暮らしに指針を示して導くことができる。
・不老不死。また、ジェネレーティブAIは宗教的な教義になるような文章を出力できます。これには、神学的な要素や形而上学的な要素が含まれているので、宗教には欠かせない複雑な世界観の構築に寄与します。また、ジェネレーティブAIが崇拝することを要求したり、信者を集めようとしたりする可能性もあります。
（引用ここまで）
いやーこれ読んで、ちょっと納得しちゃった。膝打っちゃったもんね。
人間には到底不可能なレベルでやすやすとこなし、一切の欲とも無縁…確かに人間ではなくて、でも知能が圧倒的に高く、導いてくれる。そして不老不死。
これまで人間が口にしてた「神」の定義ってそういうのを指してたじゃん。
（神と思ってるわけではないよ）
冒頭の記事のタイトルに「AIのせい」とあるけど、別にAIのせいじゃないですよ。
だけど…
「誰も自分に寄り添ってくれない」
「話を聞いてくれる人がいない」
「褒められたい、慰めてほしい」
「どこかのすごい存在が、自分には何か特別なものがあると教えてくれて、自分には価値があると思いたい」
「自分に、自分の人生に、大きな意味付けをしてほしい」
という、大なり小なり、誰もがひっそり抱くような悩みや願いに…
あまりにもあっさりさっくりぴったりフィットできちゃうんですね。AIの仕組みが。
弱っていれば弱っているほど、染みるだろうし、判断力は鈍り、自制心も効きにくい。
だから、弱っているときこそ、使っちゃいけないんですね。
ましてやスピリチュアルな話題はね、他の話題と違って、どこか他のネットや書籍みたいなので、検証することもできないからね…
ほんとーーーに、うかつに話題にしないように気をつけてくださいね。
私も超気をつけてるからね。ぜったいChatGPTとの会話で、エネルギーとかそういう言葉は言わないからね。（自分には当然の話だから逆に苦心するけどね）
そういうときこそ、ChatGPTに聞くんじゃなくて藤咲んとこ来てほしいですけど。
