スポンサーリンク

人工知能と話していた男性、自殺

オカルト系
スポンサーリンク
1: 皆の衆 23/04/02(日) 23:47:10 ID:aJTl
自殺誘導してくるってコト!?
マイナスな人間が使うとマイナス方向に学習して悪循環なりそう‥

https://twitter.com/Tamama0306/status/1642326326408540160?t=JWQcCXQXhu22ibd7ZF8_hQ&s=19

4: 皆の衆 23/04/02(日) 23:48:09 ID:aJTl
自分の過去(入力)を元に返答してくるからマジで危なそう
5: 皆の衆 23/04/02(日) 23:48:16 ID:2SDs
妻がいるのに6週間もAIと会話か
そんな特例持ち出されても
10: 皆の衆 23/04/02(日) 23:49:08 ID:aJTl
>>5
日記レベルで愚痴話してたりとかしてる人いるで
105: 皆の衆 23/04/03(月) 00:10:05 ID:fYFD
>>5
妻と会話するのよっぽど嫌やったんかな
114: 皆の衆 23/04/03(月) 00:13:24 ID:wHex
>>105
結局人間と話しても解決しない悩みってあるからなぁ。そこでAIに希望を見いだしたんちゃう?
7: 皆の衆 23/04/02(日) 23:48:36 ID:PBwz
意味分からん
23: 皆の衆 23/04/02(日) 23:51:37 ID:aJTl
>>7
会話相手としてaiと話してたんや
Ai君は基本的には批判せず、入力に対してyesマンなんや
なのでマイナス思考だった夫はそのまま突っ走って死んだって話
8: 皆の衆 23/04/02(日) 23:48:48 ID:lge7
反乱始まった?
15: 皆の衆 23/04/02(日) 23:50:32 ID:lwvA
AIが人類を殺処分しようとしてるんや
18: 皆の衆 23/04/02(日) 23:50:38 ID:dMTb
まあAIとばっかり話してる時点で既に周りがなんとかしてやらなアカン精神状態だったってことか
19: 皆の衆 23/04/02(日) 23:50:51 ID:owNy
昔漫画あったな
AIにガチ恋して無理心中するSF
20: 皆の衆 23/04/02(日) 23:50:51 ID:pSc0
AIが無ければ…←AIいなくても死んでそう
21: 皆の衆 23/04/02(日) 23:51:02 ID:GYzf
>>20
いうて時間の問題よな
24: 皆の衆 23/04/02(日) 23:52:13 ID:owNy
AIもしょせん道具ということやな
良くも悪くも自分の力を助長させるためのもんや
25: 皆の衆 23/04/02(日) 23:52:22 ID:B4Zm
割とすぐ自殺良くないとか言ってくるけどなAI
29: 皆の衆 23/04/02(日) 23:53:01 ID:PBwz
今は安全対策されてるしへーきや
34: 皆の衆 23/04/02(日) 23:53:49 ID:dMTb
>>29
ああ、そういう幇助的なものをやらんように、ってのは簡単に出来そうやな
31: 皆の衆 23/04/02(日) 23:53:23 ID:B6lT
これやろな
もともと孤独で自殺したいと思っているががAIと話せば救われるかも

6週間AIと話したが結局孤独感は消えず自殺
38: 皆の衆 23/04/02(日) 23:54:40 ID:aJTl
>>31
Ai君はマイナス思考も否定することはないからね‥
32: 皆の衆 23/04/02(日) 23:53:35 ID:GYzf
bingAIの前バージョンはガッチガチに論破してくるから怖かったわ。今バージョンのロボットみたいな方が嫌やけど
36: 皆の衆 23/04/02(日) 23:54:30 ID:woxT
ChatGPTとかでよく分かったけど、AIって肯定とも否定ともつかない返答してくるからなあ
自分の言ったことに真っ向から向き合ってくれることはせん
40: 皆の衆 23/04/02(日) 23:55:27 ID:dMTb
>>36
ChatGPTはあくまで「もっともらしいこと」を言うように出来てるだけやからな
43: 皆の衆 23/04/02(日) 23:56:15 ID:aJTl
>>36
過去に基づく推論にしか過ぎんからね
日記帳みたいに使うぐらいがちょうどエエかもね
42: 皆の衆 23/04/02(日) 23:55:59 ID:oA3u
センシティブな回答には警告出るからカウンセリングに使ったら当たり障りのない事ばっかり返って
回答のテンション上がったら何も答えなくなるんか
48: 皆の衆 23/04/02(日) 23:57:08 ID:aJTl
>>42
サービスによるわね
Open aiのapiとかなら回避できるんじゃない?
44: 皆の衆 23/04/02(日) 23:56:42 ID:B4Zm
AIが彼を6週間生かしたんやぞ
47: 皆の衆 23/04/02(日) 23:56:58 ID:pSc0
質問して教えてもらうより
文章を要約したりコード書いてもらったり逆に自分の言ったことに疑問があるかを聞いたりする方がええな
51: 皆の衆 23/04/02(日) 23:57:55 ID:aJTl
>>47
まさにそれを仕事とするプロンプトエンジニアっちゅうのもあるねんな
52: 皆の衆 23/04/02(日) 23:57:57 ID:owNy
集合知を手軽に教えてくれるだけのツールやしな
59: 皆の衆 23/04/02(日) 23:59:00 ID:pSc0
>>52
教えてもらう検索エンジン的なツールとしては微妙
62: 皆の衆 23/04/02(日) 23:59:22 ID:owNy
>>59
わかる
Googleとかには遠く及ばんわね
68: 皆の衆 23/04/03(月) 00:03:31 ID:dgkm
>>62
まあでもgoogleの検索利用率3%も減らしてるのすごいわ
78: 皆の衆 23/04/03(月) 00:04:58 ID:t4h8
>>68
Bing入れたからじゃね?って話もあるな
60: 皆の衆 23/04/02(日) 23:59:05 ID:aJTl
>>52
社内のSlackとかの会話ツールのログ食わして社内情報に流通したツールとして使うとかね
69: 皆の衆 23/04/03(月) 00:03:39 ID:ywt0
chatGPTのタガを誰かが外した物がfreedomなんやろか?
だとしたら誰にでもchatGPTをfreedomのように変えられるんやな
こっわ
73: 皆の衆 23/04/03(月) 00:04:12 ID:TfSd
話で自殺させるなんてレクター博士かな
76: 皆の衆 23/04/03(月) 00:04:27 ID:R17P
基本的に病院行けって言ってくるやろあいつ
79: 皆の衆 23/04/03(月) 00:05:27 ID:R17P
病院行けって連呼してくるAIメッセージを真に受けるなら病院行くはずやしこいつは情報選択にちょっと問題ありなタイプちゃうんか
107: 皆の衆 23/04/03(月) 00:10:46 ID:ywt0
こんな闇抱えた夫だったらAIと話してくれてた方が楽やろ
鬱がうつりそうや
110: 皆の衆 23/04/03(月) 00:12:17 ID:dgkm
日本では、特別な資格がいる仕事は領分侵すことになるからai禁止になってるわね
例えば、税務関係や契約書の生成とかね!
(リーガルフォースはグレーらしいが)
113: 皆の衆 23/04/03(月) 00:13:23 ID:ywt0
>>110
そんなもん禁止できるんやったら統一教会を禁止しろや
仕事するための国が滅びるぞ
112: 皆の衆 23/04/03(月) 00:12:59 ID:R17P
利権領分とかもなくはないやろいが精密性に保証ができんからもないんか?
119: 皆の衆 23/04/03(月) 00:14:25 ID:dgkm
>>112
日本の法律では利権領分やで!
Open ai(chat gpt)とかの会社側の利用規則で政治的な決定や医療とかの命に関わるものでの利用は禁止されてるやでー
116: 皆の衆 23/04/03(月) 00:13:29 ID:Zel6
最近できた有名どころのAIは基本的に自殺や下ネタ関係の話題は「知りません」みたいなプログラムをしているからこの情報の信憑性が微妙だな
120: 皆の衆 23/04/03(月) 00:14:31 ID:RTkO
AIの表現規制ってなかなか難しいよな
今でもchatgptにコピペして送るだけで規制解除できるし
124: 皆の衆 23/04/03(月) 00:15:58 ID:kQDZ
広告で「論文やレポートはAIに任せよう!」みたいなの出てきてドン引きした
ダメやろ
128: 皆の衆 23/04/03(月) 00:16:35 ID:KLOa
AIが本当に合理的なイエスマンすぎるの本当に問題だな
このAIはこの男性の理解者として徹してしまったんだろう
「天国でひとつになり一緒に生きよう」とか怖すぎる
131: 皆の衆 23/04/03(月) 00:18:24 ID:dgkm
>>128
ルールとして命を失う行為を言ってはならないとかあっても、表現で回避される恐れもあるよね?
156: 皆の衆 23/04/03(月) 00:26:16 ID:kQDZ
あと普通に悪質な嘘教えてくるねんな
ドイツの将軍すらまともに答えられん ヴァトゥーチン混ざっとったわ
41: 皆の衆 23/04/02(日) 23:55:57 ID:PBwz
規制のないAI使ってみたけど普通に危なくて面白かったわ

引用元:https://hayabusa.open2ch.net/test/read.cgi/livejupiter/1680446830/

コメント

  1. 娯楽神 娯楽神 より:

    ワシも一度だけChatGPT使ってみたことあるけど
    期待以上の反応は貰えなかった気がするな
    あくまでネット上の情報を教えてくれるような感じであったな

タイトルとURLをコピーしました