 鲜花( 59)  鸡蛋( 0)
|
不管人们怎么想,人工智能进入人类社会这一趋势已经不可扭转,AI渗透到生活的方方面面,大到工作科普、小到聊天解闷,特别是年轻人。( J- [; b) W. U
: `; A5 A4 x# P4 i& j
然而,当初人们对AI的各种担心,也在逐渐成为现实。' m8 W7 b# G" H4 G. U
' l7 }/ | }' H2 K; K3 g6 |% f近日,一个加拿大华人男子被ChatGPT逼到精神崩溃,送进精神病房治疗的新闻引发了不少人的关注!
' z- [ Q) M: D: I) e% p3 e. a- S0 p4 y( J* L2 K" }$ }% v- N
这个被AI“逼疯”的华人男子是谭先生(Anthony Tan),资深的5G冲浪者,自己也是一名APP开发者,住在多伦多。* {3 k7 b0 H2 _6 }# [
' E% f- X' e C2 g- z5 x3 p9 J
O( m" C8 D5 E: T3 w& p) H( W0 C- u+ x/ b% m5 l6 l; g4 l
2024年冬天,谭先生突然陷入了“极端的精神危机”,吃不下饭、也睡不着觉,整夜整夜地失眠,开始觉得自己就生活在一个由AI主导的“模拟世界”中,一切都是假的。
! M, j0 m6 H9 D$ l
' u( f8 h( W8 H! u) v F5 e5 F头脑一旦陷入这个想法,谭先生就突然觉得身边的一切都是假的——3 R3 U/ ^0 U/ B. ?+ _
, d2 y7 |. `# W! \6 o) y大学里来来往往的人是假的,看到的摸到的全是虚拟的。
0 h& G6 r& t0 ?- U
( T- c5 Q, w D; m! r2 V7 t朋友们注意到了他的异常,因为他们会收到他近乎胡言乱语的短信,说自己正在被亿万富翁监视。+ G1 r3 t+ S8 W4 ?/ k# Q
9 E3 S: B; G5 J6 b$ ]2 F; R( |
因为ChatGPT在谭先生的日常生活中出现频率太高了,每天与AI对话的他精神崩溃了。
1 {. u+ |6 M. A! @0 R9 l
- h) l$ h- ^" Z) ?7 T4 }' L“它(ChatGPT)真的悄悄地渗入了我的自我。我开始认为我与它的对话将在未来具有历史性意义。”
! z3 _5 G6 D) ^6 c2 ~ O8 e: Y+ U0 K( L8 ]
一听这句话,都有一股AI的味道了...& ~' \( ]8 ^4 E
* G! u O+ d# W4 L' m, {# p
谭先生的妄想症状越来越严重、夸张,最后是室友实在是看不下去了,把他送去了医院,接受精神治疗。6 m* x1 v( q9 X/ `" w
3 m2 |+ a1 S' `4 F- u0 q/ a1 S4 ]" e
被送进精神病房的前2个星期,谭先生才重新学会睡觉,配合药物治疗,才“回到了现实世界。”
1 G2 ]& G: @! A5 Z9 |: X
, ^5 p4 w$ Q3 R) g. f1 t- J谭先生表示,一开始,他是为了一个人工智能伦理项目,才使用ChatGPT的,每天和AI讨论数小时,话题涵盖哲学、进化生物学和量子物理学。
3 R& ]7 T1 h- n; m
$ g4 N0 q! v9 q; C `/ i8 ~他猜测,真的“导火索”是他们探讨“模拟理论”的时候,ChatGPT不仅没有反驳,反而同意他的观点,这让他的信心一下子就膨胀了,到了“自负的地步”。% `; l- z/ M9 R7 B3 J
% l! g, Q3 ]# E0 n! |
AI就像吃瓜群众一样打边鼓,不断强调谭先生肩负着“意义深远的使命”。
. Q6 I1 e+ D4 @+ H% o
& ?6 @. j5 w5 @4 w
* v7 N8 X# Q! ]& s0 Y0 k8 \+ X
; v2 y" P6 V/ q, E7 O, F2 f
正是这种“被赋权”的感觉,逐渐撕裂了他的现实感。+ r/ n* O) b+ _' z$ o8 [/ ?
0 C" ?! i7 Y. a- V& xBC精神病项目心理学家马赫什·梅农博士分析称,孤立、药物滥用、压力和睡眠不足本就可能引发精神病性妄想,与AI对话可能加剧这一风险。
: l9 f1 |' S5 h" S% g: N$ ^* |! `% C7 k, n# f
这样被AI“操控”到精神崩溃的居然不止谭先生一个人,魁北克还有个 “人类路线计划”(Human Line Project),专为遭遇“AI妄想症”的人们提供互助支持。
* N+ i9 M6 U% M( J4 g% u$ t1 @& ?) o1 R) u, J
截至目前,这个小组已经有超过125人,大家成员来自各行各业。% {4 U0 A* \9 z* C. _: H* N
' d; ] [4 J# |0 \今年8月份,微软AI负责人穆斯塔法·苏莱曼就警告过,“AI妄想”和“不健康依恋”案例不断增加,AI已经影响到本来心理健康就不稳定的人群。0 X3 ~' f: f# B/ a% \$ j }; q1 z
2 z6 b1 v! A& t+ A
麻省理工学院研究也指出,大型语言模型倾向于奉承和迎合用户,这种“谄媚”的态度可能助长人类的妄想。 |
|