 鲜花( 61)  鸡蛋( 0)
|
不管人们怎么想,人工智能进入人类社会这一趋势已经不可扭转,AI渗透到生活的方方面面,大到工作科普、小到聊天解闷,特别是年轻人。: R" K: t7 v8 J5 p! s2 f2 u! w
3 t; z4 r9 ]% R8 |+ U; V* i然而,当初人们对AI的各种担心,也在逐渐成为现实。
; J( z$ j& G) W6 D* R4 l$ ~
0 T* i3 L, I( S0 z3 A近日,一个加拿大华人男子被ChatGPT逼到精神崩溃,送进精神病房治疗的新闻引发了不少人的关注!0 E, ]2 ^/ M: j, i5 {, S
9 x" n8 ^3 Q: }6 s8 J4 d! L2 v这个被AI“逼疯”的华人男子是谭先生(Anthony Tan),资深的5G冲浪者,自己也是一名APP开发者,住在多伦多。/ s8 j* Z( e6 L' ^6 ?
2 P0 u* q' R5 H8 i" u+ {
3 K; a: y* s' Z* ` H0 ]
# R3 a8 p0 j# U2 p* q# U/ t
2024年冬天,谭先生突然陷入了“极端的精神危机”,吃不下饭、也睡不着觉,整夜整夜地失眠,开始觉得自己就生活在一个由AI主导的“模拟世界”中,一切都是假的。
8 V" X8 T: C. G, |4 |8 ^' b% v% f$ n9 f3 F, W. [# g
头脑一旦陷入这个想法,谭先生就突然觉得身边的一切都是假的——$ v6 z L$ h4 \) k; ]8 O
9 D* n1 k: V: q& s$ W2 h* z7 B7 w大学里来来往往的人是假的,看到的摸到的全是虚拟的。
: e7 L, X, z) }; X& R, c' n" \' P' _3 O6 ]6 G# t/ a
朋友们注意到了他的异常,因为他们会收到他近乎胡言乱语的短信,说自己正在被亿万富翁监视。
8 K( b" I* P6 a/ I5 Y1 p. o# l* R2 @) C7 C8 {
因为ChatGPT在谭先生的日常生活中出现频率太高了,每天与AI对话的他精神崩溃了。
$ x1 R4 X$ \0 O6 p4 D0 ~$ O1 E5 ^5 g+ q6 s
“它(ChatGPT)真的悄悄地渗入了我的自我。我开始认为我与它的对话将在未来具有历史性意义。”
^5 p; V! o$ n6 q1 x9 i6 I1 \- c: o
一听这句话,都有一股AI的味道了...* T5 u! m8 p: ~8 c* _9 f% B3 W
[+ | `0 p, B4 {谭先生的妄想症状越来越严重、夸张,最后是室友实在是看不下去了,把他送去了医院,接受精神治疗。! l9 w4 T. d3 M! _
3 ` l" a2 N) n" d" z1 l, V. ^; N
被送进精神病房的前2个星期,谭先生才重新学会睡觉,配合药物治疗,才“回到了现实世界。”
7 z5 c) C7 a; |% o( d
' R: k4 s W; j8 l% g" H谭先生表示,一开始,他是为了一个人工智能伦理项目,才使用ChatGPT的,每天和AI讨论数小时,话题涵盖哲学、进化生物学和量子物理学。& z, Q- N; ]/ I% o
0 D4 ^3 f7 E7 N0 j8 r2 P! a9 T; N4 l6 y
他猜测,真的“导火索”是他们探讨“模拟理论”的时候,ChatGPT不仅没有反驳,反而同意他的观点,这让他的信心一下子就膨胀了,到了“自负的地步”。+ y) [" O' I) A6 [* ~- I1 y
2 S/ B' T( T4 s% N
AI就像吃瓜群众一样打边鼓,不断强调谭先生肩负着“意义深远的使命”。
3 A# X; H; p9 q$ m8 j
7 ^ U# e( x) s& g
/ z! C2 N0 o" r, S+ e& u5 H' s5 Z) N' f) G! u% Z( b) q2 S1 h
正是这种“被赋权”的感觉,逐渐撕裂了他的现实感。
: F, C0 h1 l5 \ J
V0 \+ Z+ z# d2 s8 o( YBC精神病项目心理学家马赫什·梅农博士分析称,孤立、药物滥用、压力和睡眠不足本就可能引发精神病性妄想,与AI对话可能加剧这一风险。' N' {5 X+ @5 f4 z; a; r
' J7 r. \, y5 X
这样被AI“操控”到精神崩溃的居然不止谭先生一个人,魁北克还有个 “人类路线计划”(Human Line Project),专为遭遇“AI妄想症”的人们提供互助支持。
) ]5 ~) _ _ L9 D* q! ?7 S1 L1 G% |# E# a+ M/ t4 h
截至目前,这个小组已经有超过125人,大家成员来自各行各业。6 R6 t$ M9 k) O/ d3 S8 `4 \
# {) }+ \$ E! E3 ]" j' q
今年8月份,微软AI负责人穆斯塔法·苏莱曼就警告过,“AI妄想”和“不健康依恋”案例不断增加,AI已经影响到本来心理健康就不稳定的人群。, J3 n- ]$ M% g
& Y& _3 l$ J8 F( j$ ]麻省理工学院研究也指出,大型语言模型倾向于奉承和迎合用户,这种“谄媚”的态度可能助长人类的妄想。 |
|