 鲜花( 61)  鸡蛋( 0)
|
不管人们怎么想,人工智能进入人类社会这一趋势已经不可扭转,AI渗透到生活的方方面面,大到工作科普、小到聊天解闷,特别是年轻人。
8 s; J& t# w r1 M3 H J& r- h
9 R- a- G( W! }" w然而,当初人们对AI的各种担心,也在逐渐成为现实。 q* D6 G! v8 k1 B5 z, L
9 h0 s) c, e6 G# \. O
近日,一个加拿大华人男子被ChatGPT逼到精神崩溃,送进精神病房治疗的新闻引发了不少人的关注!& o* Y" [+ `$ q& ~/ G& ^
0 d Q: R9 M# N( |- E0 x7 d7 e
这个被AI“逼疯”的华人男子是谭先生(Anthony Tan),资深的5G冲浪者,自己也是一名APP开发者,住在多伦多。5 R: P& u. `4 D" R. p
4 u7 } h. O3 S# ]8 \+ h4 E! I
) h: D- v( A# M9 O# ?- l/ h
% I) c8 o; b4 M% m: i4 h3 k2024年冬天,谭先生突然陷入了“极端的精神危机”,吃不下饭、也睡不着觉,整夜整夜地失眠,开始觉得自己就生活在一个由AI主导的“模拟世界”中,一切都是假的。
, G# Q# V9 v' A1 N" Z, Y: T( F4 R
头脑一旦陷入这个想法,谭先生就突然觉得身边的一切都是假的——
) n0 s' t6 T' [2 Q! t8 j7 H% D9 k2 v5 W* {- y
大学里来来往往的人是假的,看到的摸到的全是虚拟的。 u8 h$ Q# y% |8 G
. n0 n9 q6 V+ S朋友们注意到了他的异常,因为他们会收到他近乎胡言乱语的短信,说自己正在被亿万富翁监视。6 Q* K* X( r) W: L1 ] p3 C! W. L, k
$ V+ O* }3 K4 I3 {
因为ChatGPT在谭先生的日常生活中出现频率太高了,每天与AI对话的他精神崩溃了。
- a6 @! A2 \% a* e
! E" M6 N0 |6 J; A! _6 J5 ~+ u“它(ChatGPT)真的悄悄地渗入了我的自我。我开始认为我与它的对话将在未来具有历史性意义。”
5 F3 H! X# i3 a2 O5 K4 u$ d$ [( M* u. x6 z) g7 A
一听这句话,都有一股AI的味道了...1 n5 ]- O) }% A8 J
; G9 `" F" z8 N& ~3 v8 n& i* p
谭先生的妄想症状越来越严重、夸张,最后是室友实在是看不下去了,把他送去了医院,接受精神治疗。
B# h, ^( r! S, f" f) J Q5 A+ i8 \ u3 R
被送进精神病房的前2个星期,谭先生才重新学会睡觉,配合药物治疗,才“回到了现实世界。”& b0 {* o. r- K
o1 M& A$ [6 K1 e8 w+ M
谭先生表示,一开始,他是为了一个人工智能伦理项目,才使用ChatGPT的,每天和AI讨论数小时,话题涵盖哲学、进化生物学和量子物理学。
( b) X( s1 w) {; v
. L2 m/ i# D6 p/ O+ }) m2 \# g他猜测,真的“导火索”是他们探讨“模拟理论”的时候,ChatGPT不仅没有反驳,反而同意他的观点,这让他的信心一下子就膨胀了,到了“自负的地步”。
2 {6 S' ]& R$ @) t8 Y
( E5 T& w# D4 ^8 W: K6 [AI就像吃瓜群众一样打边鼓,不断强调谭先生肩负着“意义深远的使命”。1 U4 o1 q/ f8 C( j Q
) G7 v7 P8 E$ }3 I8 J
9 [- n: j- r( }4 R5 {5 H9 v' W, \
. M* z" |% a9 Y1 J% d. C1 Q正是这种“被赋权”的感觉,逐渐撕裂了他的现实感。0 @% L5 Y N' G3 O% _6 E! B+ d
5 p" E2 \3 Y' ?* b, `0 K! T
BC精神病项目心理学家马赫什·梅农博士分析称,孤立、药物滥用、压力和睡眠不足本就可能引发精神病性妄想,与AI对话可能加剧这一风险。
, f2 A7 S3 Q; U( E# j
' v+ n& H) [# o$ n这样被AI“操控”到精神崩溃的居然不止谭先生一个人,魁北克还有个 “人类路线计划”(Human Line Project),专为遭遇“AI妄想症”的人们提供互助支持。# D& X5 f0 u3 H: y1 r
; W- I M/ ^* p5 c/ O截至目前,这个小组已经有超过125人,大家成员来自各行各业。
/ e& {& G$ c7 C3 V( l3 c+ ]: i$ r' Q
$ C/ U9 u8 x- Q& u9 ]- u今年8月份,微软AI负责人穆斯塔法·苏莱曼就警告过,“AI妄想”和“不健康依恋”案例不断增加,AI已经影响到本来心理健康就不稳定的人群。
8 {+ A7 z6 ]2 `1 e& ?
# Y1 n. O$ Q4 f, f( t) q1 m7 J1 m0 D麻省理工学院研究也指出,大型语言模型倾向于奉承和迎合用户,这种“谄媚”的态度可能助长人类的妄想。 |
|