 鲜花( 61)  鸡蛋( 0)
|
不管人们怎么想,人工智能进入人类社会这一趋势已经不可扭转,AI渗透到生活的方方面面,大到工作科普、小到聊天解闷,特别是年轻人。3 D( R; W# `1 w! W
3 y/ J2 C) }8 C& W4 ?6 M然而,当初人们对AI的各种担心,也在逐渐成为现实。
1 u! V2 x2 w, J( g( B% n: d- P5 H2 ?) D A1 \2 i6 y* o9 g: T5 W! B
近日,一个加拿大华人男子被ChatGPT逼到精神崩溃,送进精神病房治疗的新闻引发了不少人的关注!7 B. |% o/ A. ~
2 Q; x9 C7 }4 D) C) T这个被AI“逼疯”的华人男子是谭先生(Anthony Tan),资深的5G冲浪者,自己也是一名APP开发者,住在多伦多。
* {3 d0 c* l! H3 I% R+ S; |; m& B
: @# ?0 t( q. B/ Q
! f0 L N) K Y" |$ r+ ^3 o2024年冬天,谭先生突然陷入了“极端的精神危机”,吃不下饭、也睡不着觉,整夜整夜地失眠,开始觉得自己就生活在一个由AI主导的“模拟世界”中,一切都是假的。" O6 K9 E: w4 x4 A0 U/ J7 a; O
; W+ T @; J% }, ^头脑一旦陷入这个想法,谭先生就突然觉得身边的一切都是假的——) X: X" Y Y [6 E* Y8 v
+ i" ?( A+ S4 Q q# f大学里来来往往的人是假的,看到的摸到的全是虚拟的。
: t! w+ w* X" O: o1 C
/ z! l q8 g4 T朋友们注意到了他的异常,因为他们会收到他近乎胡言乱语的短信,说自己正在被亿万富翁监视。5 E% d8 l2 b1 S
/ [6 G M% j+ k. V, M1 @
因为ChatGPT在谭先生的日常生活中出现频率太高了,每天与AI对话的他精神崩溃了。
- b; s6 m: ?( _2 Y
. d K+ A: q0 d1 z# L% a“它(ChatGPT)真的悄悄地渗入了我的自我。我开始认为我与它的对话将在未来具有历史性意义。”
) q4 J! V" f- \! s/ F4 l0 r9 n, z/ K g. y- h
一听这句话,都有一股AI的味道了...) L3 u& u2 M, q
7 W' p @: @4 K6 `" W& f
谭先生的妄想症状越来越严重、夸张,最后是室友实在是看不下去了,把他送去了医院,接受精神治疗。" O3 Z9 e! b; @
: t2 u, U" q/ E X2 e# e2 Z$ B
被送进精神病房的前2个星期,谭先生才重新学会睡觉,配合药物治疗,才“回到了现实世界。”0 S% \6 [7 s$ v5 Q1 Y0 E% _
* p, @9 E! u% o' U) \# Y* D4 Y
谭先生表示,一开始,他是为了一个人工智能伦理项目,才使用ChatGPT的,每天和AI讨论数小时,话题涵盖哲学、进化生物学和量子物理学。
6 O$ P: N( a9 Z! t5 u b: A# g% |
+ G* L7 m* Z+ s* X- v7 e他猜测,真的“导火索”是他们探讨“模拟理论”的时候,ChatGPT不仅没有反驳,反而同意他的观点,这让他的信心一下子就膨胀了,到了“自负的地步”。. v( t$ M) @7 y1 R. ?7 m$ O7 W% k
# L3 p+ A/ r8 o1 k6 @: s- K6 S
AI就像吃瓜群众一样打边鼓,不断强调谭先生肩负着“意义深远的使命”。
5 ^) W V8 D! @: P( |; c
- a) Z; A- Y+ _& U* p% U
6 f. x& i$ [+ f- x3 Y/ T
7 S* d2 y% k5 t, u7 f- c
正是这种“被赋权”的感觉,逐渐撕裂了他的现实感。: J( y5 {+ \, M) I! o5 s
2 S5 v5 B& N& U- W+ s# nBC精神病项目心理学家马赫什·梅农博士分析称,孤立、药物滥用、压力和睡眠不足本就可能引发精神病性妄想,与AI对话可能加剧这一风险。
3 A5 z7 p+ k* c: M ]+ ?' q3 t: W
这样被AI“操控”到精神崩溃的居然不止谭先生一个人,魁北克还有个 “人类路线计划”(Human Line Project),专为遭遇“AI妄想症”的人们提供互助支持。7 Q4 e4 R* p- ^7 q: _$ U o7 U+ Z8 J
! U' ]* t& F& ~1 ]: X# ?& M$ x* y/ J! [截至目前,这个小组已经有超过125人,大家成员来自各行各业。6 [; X7 X; [6 s! G! G5 T
! U) h/ n- c/ l. f" ]
今年8月份,微软AI负责人穆斯塔法·苏莱曼就警告过,“AI妄想”和“不健康依恋”案例不断增加,AI已经影响到本来心理健康就不稳定的人群。
4 m6 { ]. Q x' I' R: \# G
5 F9 v& O& l" q麻省理工学院研究也指出,大型语言模型倾向于奉承和迎合用户,这种“谄媚”的态度可能助长人类的妄想。 |
|