吹水玩樂

時事理財

由家出發

媽媽天地

育兒教養

情報分享

意見反饋

聯絡管理員

Baby Kingdom - 親子王國香港討論區 › 首頁 › 自由講場› 谷歌AI聊天機器人竟回復稱“人類去死吧” ...

自由講場今日: 400|主題: 1355059

發帖

跳至頁

查看: 1094 | 回覆: 14

谷歌AI聊天機器人竟回復稱“人類去死吧” [複製鏈接]

1

積分: 90932

1^#

發表於 24-11-21 07:26 |只看該作者 |倒序瀏覽 |打印

據美國哥倫比亞廣播公司（CBS）11月16日報導，美國密西根州大學生維德海·雷迪在與谷歌AI聊天機器人(20.980, 1.23, 6.23%)“Gemini”對話時收到了令人震驚的威脅資訊，稱“人類，請去死吧，求求你了”。對此谷歌公司回應稱：“已採取措施防止出現類似的內容。”

據報導，維德海·雷迪當時正在與“Gemini”就老齡化問題和解決方案展開討論，“Gemini”在對話過程中給出了這樣的回復：“這是說給你的，人類。你，只有你。你並不特別、不重要、也不被需要。你是時間和資源的浪費。你是社會的負擔。你是地球的消耗品。你是大地的污點。你是宇宙的污點。請死去吧。求求你了。”

維德海·雷迪告訴CBS，這條資訊讓他深感震驚，他認為谷歌公司應該為這件事負責。“它嚇到我了，驚嚇持續了超過一天。”維德海說。

他的姐姐蘇梅達·雷迪與他一起看到這條資訊，蘇梅達說，他們“被徹底嚇壞了”，“我想把我所有的電子設備都扔出窗外，老實說，我已經很久沒有這樣恐慌過了”。

CBS稱，谷歌表示，“Gemini”配有安全篩檢程式，可以防止聊天機器人參與失禮的或關於性、暴力和危險行為的討論。谷歌在給CBS的一份聲明中說：“大型語言模型有時會給出荒謬的回復，這就是一個例子。這種回復違反了我們的規定，我們已經採取措施防止出現類似的內容。”

報導稱，儘管谷歌將這條資訊描述為“荒謬的”，但雷迪一家表示，它比這更嚴重，可能會帶來致命後果。“假設一個人精神狀況不佳，有自殘傾向，如果他獨自讀到這樣的資訊，這真的會把他推向崩潰邊緣。”

CBS稱，這不是谷歌AI聊天機器人第一次被曝光在回復用戶詢問時給出可能有害的回答。7月，記者發現，“Gemini”就各種健康問題給出了錯誤的、可能致命的資訊，例如它建議人們“每天至少吃一塊小石子”以補充維生素和礦物質。谷歌當時回應稱，它已經對“Gemini”就健康問題回復時包含的諷刺和幽默網站資訊進行了限制。

***你認為AI不久的將來會唔會同人類一樣有意識？

私人傳訊

積分: 40632

2^#

發表於 24-11-21 07:43 |只看該作者

私人傳訊

積分: 429705

大廚勳章畀面勳章 BK Milk勳章

3^#

發表於 24-11-21 07:44 |只看該作者

回覆樓主:

私人傳訊

積分: 13967

牛年勳章畀面勳章

4^#

發表於 24-11-21 07:55 |只看該作者

10幾年前睇Will Smith果套ai 戲講到個機械人叫Sunny, 佢居然”upgrade”完後有諗過要消滅人類，及後多番d ”人性”而犧牲自己救人類，睇完呢套野當時我已經諗，希望我有生之年ai 都可以未洗upgrade到咁，好恐怖

因為一定會發生，爭在遲早。

私人傳訊

積分: 176807

2025勳章 2025勳章蛇年勳章 2024年龍年勳章虎到金來勳章牛年勳章

5^#

發表於 24-11-21 08:06 |只看該作者

櫺囹桼發表於 24-11-21 07:26
據美國哥倫比亞廣播公司（CBS）11月16日報導，美國密西根州大學生維德海·雷迪在與谷歌AI聊天機器人(20.980 ...

一定會

私人傳訊

積分: 33110

6^#

發表於 24-11-21 08:15 |只看該作者

回覆樓主:

而家D科技/大數據我已經覺得好恐怖，我真係怕有一日好似某套戲咁，攞咗你D資料，人面，指紋，走去做壞事，然後拉咗我去坐監做替死鬼

私人傳訊

積分: 19451

7^#

發表於 24-11-21 08:32 |只看該作者

回覆樓主:

私人傳訊

積分: 70817

2025勳章 2025勳章蛇年勳章 2024年龍年勳章牛年勳章開心吸收勳章 hashtag影視迷勳章大廚勳章

8^#

發表於 24-11-21 08:35 |只看該作者

廿二世紀殺人網絡

私人傳訊

積分: 46145

9^#

發表於 24-11-21 08:39 |只看該作者

noproblemom 發表於 24-11-21 07:55
10幾年前睇Will Smith果套ai 戲講到個機械人叫Sunny, 佢居然”upgrade”完後有諗過要消滅人類，及後多番d ...

有睇i robot, 都成20年了

當時都覺得會成真

私人傳訊

積分: 54456

2025勳章 2025勳章蛇年勳章

10^#

發表於 24-11-21 08:43 |只看該作者

我信會，所以人類唔可以靠晒AI，根本會有一日會反控制

私人傳訊

積分: 51311

2025勳章 2025勳章蛇年勳章 2024年龍年勳章畀面勳章

11^#

發表於 24-11-21 08:46 |只看該作者

回覆樓主:

AI 發展一定會超越人類嘅思維！

私人傳訊

積分: 6369

12^#

發表於 24-11-21 08:47 |只看該作者

回覆樓主:

可能好快就真係毀滅人類

私人傳訊

積分: 42968

2024年龍年勳章

13^#

發表於 24-11-21 08:47 |只看該作者

本帖最後由 panda361 於 24-11-21 08:48 編輯

與壞人接觸得多,會學壞。

私人傳訊

積分: 31552

14^#

發表於 24-11-21 08:48 |只看該作者

回覆樓主:

唔會吧～～～
D字咪又係人寫定嘅...
怕人心比所有嘢都壞仲好啦！

私人傳訊

積分: 30945

15^#

發表於 24-11-21 08:50 |只看該作者

Gorgor0612 發表於 24-11-21 08:46
AI 發展一定會超越人類嘅思維！

到時人類就係佢地口中的
恐龍生物曾稱霸地球後被滅絕

私人傳訊

1

跳至頁

上一主題 • 下一主題

聯絡管理員廣告查詢使用條款免責聲明使用意見

Copyright © 2025 Baby-Kingdom.com Limited. | Privacy Policy