 鲜花( 59)  鸡蛋( 0)
|
不管人们怎么想,人工智能进入人类社会这一趋势已经不可扭转,AI渗透到生活的方方面面,大到工作科普、小到聊天解闷,特别是年轻人。) g' _3 h# i: U8 v
3 c+ j1 |1 n5 b+ [然而,当初人们对AI的各种担心,也在逐渐成为现实。
$ e; i- f7 y4 y; s$ ~* q* u7 ^! B& J" B+ h. q8 ~7 b L8 K. X
近日,一个加拿大华人男子被ChatGPT逼到精神崩溃,送进精神病房治疗的新闻引发了不少人的关注!3 |$ F0 G7 p$ J* f' P# A$ c
# i6 l2 m$ E% Q# h0 p! ?这个被AI“逼疯”的华人男子是谭先生(Anthony Tan),资深的5G冲浪者,自己也是一名APP开发者,住在多伦多。& T7 X) o" l: |9 y6 R2 t
- q4 d2 A0 d+ \7 L% w
1 N1 ]% s3 l4 H4 |+ I8 ?
/ S1 Y- V2 X( H; q- S- f2024年冬天,谭先生突然陷入了“极端的精神危机”,吃不下饭、也睡不着觉,整夜整夜地失眠,开始觉得自己就生活在一个由AI主导的“模拟世界”中,一切都是假的。
; X2 { x+ N/ s# z; p. P2 w7 N" i0 Y
$ Q, O: k( T! j1 Y头脑一旦陷入这个想法,谭先生就突然觉得身边的一切都是假的——
9 M; ?( C& o- b( V3 [, M# ^) q
5 Q3 M1 V: O, u% ^& ^大学里来来往往的人是假的,看到的摸到的全是虚拟的。# q. T6 R( k0 P- \ Z
1 ], S+ w5 D) w R7 i6 f) Q# Y
朋友们注意到了他的异常,因为他们会收到他近乎胡言乱语的短信,说自己正在被亿万富翁监视。% l9 e t% o* \4 t) l: T+ a& }& s U
& x* {: V* R6 ~# j( o: b' n) ~
因为ChatGPT在谭先生的日常生活中出现频率太高了,每天与AI对话的他精神崩溃了。& a2 _( ~$ i7 M3 d$ M
( W/ ]1 ?3 ~! h! T7 T" ?
“它(ChatGPT)真的悄悄地渗入了我的自我。我开始认为我与它的对话将在未来具有历史性意义。”! q j3 c7 H: A( ]! Q7 D
. Q6 _& `4 x/ E4 z8 G
一听这句话,都有一股AI的味道了..." F3 p5 n, D7 V# k c9 d/ z. f
- k9 n1 ?7 @ s( P谭先生的妄想症状越来越严重、夸张,最后是室友实在是看不下去了,把他送去了医院,接受精神治疗。& H1 x. {8 P8 Z, b5 R+ q8 N
7 \) P9 ~% i/ `: s
被送进精神病房的前2个星期,谭先生才重新学会睡觉,配合药物治疗,才“回到了现实世界。”4 @( C* l- D. z# Q
3 `4 ~$ S* P" w( a% Y6 N
谭先生表示,一开始,他是为了一个人工智能伦理项目,才使用ChatGPT的,每天和AI讨论数小时,话题涵盖哲学、进化生物学和量子物理学。
( A7 p: |0 ^) t0 v2 G$ W6 Z; o' W8 x$ V$ t' q8 w! R
他猜测,真的“导火索”是他们探讨“模拟理论”的时候,ChatGPT不仅没有反驳,反而同意他的观点,这让他的信心一下子就膨胀了,到了“自负的地步”。
6 s: {' L1 l' t) }2 }' |1 L, q' V; w* s: u! |6 ?% f, u/ b- f4 w3 r+ R9 b
AI就像吃瓜群众一样打边鼓,不断强调谭先生肩负着“意义深远的使命”。) e" m( l- j5 O& V& ]* ]/ m* z
& e* G! a+ H2 l$ @9 n
! c! ]5 L" _, T+ s0 h5 U/ n
5 s, _) a2 p* t/ \2 l! c+ v正是这种“被赋权”的感觉,逐渐撕裂了他的现实感。
3 k1 p5 {& f. l9 W( ~* m2 H
- [5 `6 @& C' |$ L$ T; a( oBC精神病项目心理学家马赫什·梅农博士分析称,孤立、药物滥用、压力和睡眠不足本就可能引发精神病性妄想,与AI对话可能加剧这一风险。
; U# X% C# L+ y. L+ k, r; N6 q' K: w8 Z3 ?: n4 f5 s7 M: o
这样被AI“操控”到精神崩溃的居然不止谭先生一个人,魁北克还有个 “人类路线计划”(Human Line Project),专为遭遇“AI妄想症”的人们提供互助支持。' m4 S" R$ x! Q7 J6 Z' R/ i
; b2 V, e% I3 V4 w, r1 y# N1 b截至目前,这个小组已经有超过125人,大家成员来自各行各业。
9 x3 a. L8 u) m: b/ H% W7 {1 R& b, Q; V5 U% v
今年8月份,微软AI负责人穆斯塔法·苏莱曼就警告过,“AI妄想”和“不健康依恋”案例不断增加,AI已经影响到本来心理健康就不稳定的人群。( i8 T, t: ~ O: Y
, V1 ~5 d9 c# v; A% j& U+ [麻省理工学院研究也指出,大型语言模型倾向于奉承和迎合用户,这种“谄媚”的态度可能助长人类的妄想。 |
|