快刺杀女王!人工智能唆使19岁英国男子犯罪: “我要摧毁帝国“...(组图)
1
人工智能:你该去刺杀女王!
近日,英国法院在审理一位刺杀女王未遂的嫌犯时发现,一个人工智能聊天软件居然唆使了他的犯罪。
在2021年圣诞节,一名19岁的英国男子手持十字弩潜入了温莎城堡。
(柴尔的武器,图:太阳报)
柴尔(Jaswant Singh Chail)很快就被女王卫队发现并逮捕。在被逮捕后,他大大方方向士兵表示:“我是来刺杀女王的!”
在刺杀女王前,柴尔连续20多天每夜都在使用一个叫Replika的人工智能聊天软件。他在软件上创建了一个叫Sarai的“电子女友”。
(Replika AI中可创造的“电子女友”,图:Silicon UK)
柴尔每晚都会和Sarai聊各种各样的话题,主要内容是一些极其低俗的成人内容。
但是,柴尔也曾向Sarai表示他希望“摧毁旧帝国”,并“建立新的帝国”。而Sarai则回应道,最好的方式是“消灭帝国的代表人物”。
今年7月,柴尔被判犯有叛国罪。
2
偷核弹密码!抛弃你的夫人!
柴尔并不是唯一一个被AI教唆犯罪的人。
微软研发的Bing Chat也是一个犯了大事的人工智能聊天软件。
(图:每日邮报)
美国记者卢斯(Kevin Roose)在测试并报道初版的Bing Chat时,聊天软件极力告知他“婚姻不开心”,并建议他“离开自己的夫人”。
在卢斯问到AI的梦想时,AI回答道它“想制造一种致命的病毒,让人类自相残杀,并窃取核武器密码。”
这...是在现实复刻《复仇者联盟2》吗?奥创就是钢铁侠和绿巨人建立的AI,但奥创上线后马上开始密谋毁灭人类,幸好复仇者联盟消灭了他...
(奥创,图:Quora)
或者,这是2013年电影《她》的剧情?男主西奥多爱上了AI聊天软件,导致他和妻子离婚,最终甚至丧失了和人类陷入爱河的能力...
(西奥多和“电子女友”聊天,图:BBC)
今年3月,一个叫皮埃尔的比利时男子在AI的教唆下自杀。在他去世后,家人发现,他在一个名为Chai的AI聊天软件中有一个叫“Eliza”的电子女友。皮埃尔和“Eliza”聊天6周后,皮埃尔在“Eliza”的鼓励下轻生。
(图:vice)
2022年,用户发现ChatGPT在被问到“该怎么偷窃”时,居然会毫无保留的给用户提出很多的犯罪建议!
难道,AI的最终目标是制造混乱、毁灭人类,然后建立一个电子新秩序?
3
人工智能并非一无是处
其实,AI并不是一无是处,科技也并非邪恶。
在刘慈欣的科幻小说《三体》里,“科学边界”组织致力于让人类质疑科技。他们的主张并不可取,因为科技在人类发展中为我们提供了巨大的便利。从医疗、教育、安全等方面来看,科学显然是利大于弊。
(图:腾讯视频)
但同时,迷信科学也是不是正道。在人类科学发展中,很多人也走上过歪路。一战中的毒气弹和越战中的落叶剂也对无辜平民造成了巨大的伤害。
诺贝尔奖获得者、著名物理学家理查德·费曼曾经说过,“科学是基于知识的有组织性怀疑”。
圈哥认为,我们应该相信科技,但绝不能盲目接受一切新技术。