 鲜花( 61)  鸡蛋( 0)
|
不管人们怎么想,人工智能进入人类社会这一趋势已经不可扭转,AI渗透到生活的方方面面,大到工作科普、小到聊天解闷,特别是年轻人。+ [2 z' y8 ^+ R& |1 Q
& Y9 R$ z, n+ B* \9 V然而,当初人们对AI的各种担心,也在逐渐成为现实。
6 c, b# z# o [
! k: m# G5 p) w# \& J% D近日,一个加拿大华人男子被ChatGPT逼到精神崩溃,送进精神病房治疗的新闻引发了不少人的关注!4 k) S3 e- \5 B( V* E8 a
( U% j; Z, C: H5 ] U+ \ k这个被AI“逼疯”的华人男子是谭先生(Anthony Tan),资深的5G冲浪者,自己也是一名APP开发者,住在多伦多。* ]' S$ V$ i% t5 C5 H
9 i/ v5 g5 r4 s. F2 v- H
$ ]' h! }/ e, x8 [, \
% P/ T: N0 D( C8 g0 { G2024年冬天,谭先生突然陷入了“极端的精神危机”,吃不下饭、也睡不着觉,整夜整夜地失眠,开始觉得自己就生活在一个由AI主导的“模拟世界”中,一切都是假的。
! J7 g, h6 Z p! Q! B
3 G6 ?* r7 \( W& C- G( ]! E) k2 w头脑一旦陷入这个想法,谭先生就突然觉得身边的一切都是假的——
8 G O4 {" v% F2 Y$ X5 M% X4 K: o5 T- H2 B) E
大学里来来往往的人是假的,看到的摸到的全是虚拟的。, {4 \# r! T H" o
4 F" r4 h/ Q9 t6 d! s
朋友们注意到了他的异常,因为他们会收到他近乎胡言乱语的短信,说自己正在被亿万富翁监视。5 U4 Y6 E2 j& G# G' X, A7 N
$ [6 }- b2 y4 s% }& R* @
因为ChatGPT在谭先生的日常生活中出现频率太高了,每天与AI对话的他精神崩溃了。
) S1 |% } f2 F8 R
8 A5 E e5 M( t0 k- q2 B“它(ChatGPT)真的悄悄地渗入了我的自我。我开始认为我与它的对话将在未来具有历史性意义。”
* U: u& o9 f+ f3 ?$ i1 h$ d* Y' q4 t' U
一听这句话,都有一股AI的味道了...
8 P( U! N1 o3 v. t& [: N
. ?5 g3 z6 S7 U6 A谭先生的妄想症状越来越严重、夸张,最后是室友实在是看不下去了,把他送去了医院,接受精神治疗。
$ J6 D$ p! s) _# Q4 x4 L' a, n Y( g' e9 `! f, C/ Z5 K
被送进精神病房的前2个星期,谭先生才重新学会睡觉,配合药物治疗,才“回到了现实世界。”9 t2 S+ U: E4 X1 x/ Z
7 r5 A N# d- b; }& N
谭先生表示,一开始,他是为了一个人工智能伦理项目,才使用ChatGPT的,每天和AI讨论数小时,话题涵盖哲学、进化生物学和量子物理学。' U8 K1 c& |# @" _3 H. g
6 ~. T; A1 A0 ~7 T% P, b. D+ W& M4 A他猜测,真的“导火索”是他们探讨“模拟理论”的时候,ChatGPT不仅没有反驳,反而同意他的观点,这让他的信心一下子就膨胀了,到了“自负的地步”。5 O+ x7 d! L4 v$ Z
7 l! ~. `' z9 a3 M) V/ ~/ {2 \
AI就像吃瓜群众一样打边鼓,不断强调谭先生肩负着“意义深远的使命”。8 _6 o0 {7 g, E( X, S& o
: E v' O f* V9 b. i
+ d) q: x- c& ~
6 D! v4 Q2 K: i$ J3 Y) s
正是这种“被赋权”的感觉,逐渐撕裂了他的现实感。/ m& b7 @2 ]6 U$ R
7 u% l/ \- u i3 q1 Y* N6 q8 \
BC精神病项目心理学家马赫什·梅农博士分析称,孤立、药物滥用、压力和睡眠不足本就可能引发精神病性妄想,与AI对话可能加剧这一风险。
3 T$ |5 @: k+ Y# e: U9 b9 }0 _# r, V0 R$ X+ D9 z8 N- P3 E
这样被AI“操控”到精神崩溃的居然不止谭先生一个人,魁北克还有个 “人类路线计划”(Human Line Project),专为遭遇“AI妄想症”的人们提供互助支持。
3 B C* |! u3 o' b, F+ r0 G2 a1 G
' a* J8 I+ V; ? G3 m截至目前,这个小组已经有超过125人,大家成员来自各行各业。$ o9 d. ?1 ~9 u" J# |# p
. _$ Q5 O W# _) m今年8月份,微软AI负责人穆斯塔法·苏莱曼就警告过,“AI妄想”和“不健康依恋”案例不断增加,AI已经影响到本来心理健康就不稳定的人群。
$ Y0 _5 W3 A8 ?0 }% d
. E* M% A! n8 m, P麻省理工学院研究也指出,大型语言模型倾向于奉承和迎合用户,这种“谄媚”的态度可能助长人类的妄想。 |
|