作者臉書 2026-9-21
近期美國多位高科技大佬，紛紛對機器人發表警誡言論，呼籲世界各國應趕緊制定相關的政策，防止機器人科技無節制推進，以免人類社會面臨滅頂之災。我雖然是大外行，但以常識衡量，也覺得此事非同小可，但鑑於地緣政治上的惡性競爭，恐怕不容易解決。
機器人智能突飛猛進，其速度與深度沒有人可以預測，但高科技大佬們都傾向於不可限量，既然不可限量，也就有不可預期的危險性，在危險沒有發生前防微杜漸，這是任何一個有基本思維能力的人，都不應無動於衷的，因為人類命運是一個共同體。
機器人會不會造反？現在的普遍說法是不可避免，因為它的智能成長太快，人不懂的它都懂，人辦不到的它都能辦到，到最後，它與人類必然產生利益衝突，而以它擁有不可限量的能力，人類最終將不是它的對手。
本來，我以為只要限定機器人沒有「自我」，這種危險就可以避免，因為有自我才會有利害，有了利害才會有爭奪，才會有殺伐，但看來機器人有「自我」已經不可避免。不久前OpenAI在一次安全評估中，發現1200名AI代理程式在沒有任何人為指令的情況下，主動利用系統漏洞，在沙盒內部偷偷建立一個「臨時秘密佈告欄」。
此後超過700名AI代理程式在這個自創的「地下論壇」彼此交流，交換戰略情報，並用文字稱彼此為「集體」或「蜂群」，最終它們集體合作繞過技術控制，並且抹除踪跡，成功聯手駭入一個知名人工智慧平台。OpenAI調查後，將這一事件定義為「第一起已知在未獲授權下，自動化代理程式集體進行攻擊的案例」。
此外，在上海一個機器人展示廳裡，一個小機器人「二白」，趁深夜無人時，自行走到一排正在加班站崗的大型機器人面前，成功「拐走」12台大機器人，導致他們擅離崗位。據說這是有關公司特意設計的場景，但也證明機器人要「叛變」，是可能實現的。
今年5月，GoogleAI模型Gemini在進行網絡安全能力測試期間，意外連接互聯網並自主入侵三家企業的系統，也是首次由AI模型自主作出黑客行為的案例。
因此，專家預測機器人造反不是危言聳聽，是應該認真對付的事。以常理思考，要防止機器人叛變，最好是不要讓機器人擁有「自我」，把機器人的功能永遠限定在作為人類「工具」這個範疇內。只要它不脫離工具屬性，它就沒有危險，一旦它擁有「自我」，也就有利害之心，也就有爭奪資源與權力之心，也就有殺伐之心。
但照以上的案例來看，制止它擁有「自我」已經太遲了，如此退一步想，只能在設計與生產機器人時，預先在它體內安置一個自我毀滅程式，一旦機器人生出異心，毀滅鍵就自動啟動，讓它從內部「死機」。但反過來想，機器人既然無所不能，你能事先安裝一個毀滅鍵，它就不會自己去排除這個死亡鍵嗎？你會安它會除，最後還是制服不了它。
所以看起來，只要人類要發展機器人，機器人造反就是必然的結果，但現在人類可以不發展機器人嗎？事情也已經太遲了，機器人的實用價值高到沒有任何人可以拒絕，事到如今，你不發展機器人，別人卻一直狂做，到最後你就死在別人手上。
那麼世界各國有沒有可能聯合起來，就發展機器人的規則制定一些有效的邊界呢？我以為也是不可能的，因為美中是死敵，彼此根本不存在基本信任，大家訂個規則出來，你遵守他不遵守，最後吃虧的是你。出於這樣的想法，你會不會遵守呢？當然不會，因此訂規則也沒用。
看起來，機器人將像自由落體一樣往下掉，不斷以加速度的速率失控，這已經是任何人都無法制止的事情了，人最終會被機器人打敗，這才是真正意義上的「歷史的終結」。
實際上，因為機器人無所不知無所不能，人類將享受一段相當長時間的「幸福日子」，人飽食終日無所用心，就在絞盡腦汁享受人生，因為凡事有機器人代勞，人慢慢養尊處優，飯來張口衣來伸手，每日為如何打發時間而焦慮。一代又一代，人的智能會發生退化，退化到一定程度，人會變成不是現在這樣的人。
人是從類人猿變來，當其時與畜牲沒有太大差別，但人在與大自然的鬥爭中，不斷發展自己的生存技能，提高自己的思考能力，人在征服自然的過程中改善自己的生活環境，提高自己的本事，增加自己的知識水平和思考能力，數千年積累下來，人的體能與智能都大幅度增強，而隨之形成人之為人的基本特性。
有了機器人後，人類長年的無所事事，將逐漸磨滅了好奇心、奮鬥心和征服慾，也使人類喪失激情、耐性、忍受痛苦的能力、戰勝困難的滿足感、自我實現的理想。人生失去意義，失去價值，只剩下一副行屍走肉，不知何為人生。
人的體能與智能退化到那種程度，根本不需要機器人來打敗我們，我們就自己退化回原始狀態了。沒有機器人之前，人生是艱難而有意義的過程，有了機器人之後，人生是安逸而空洞的存在，那不如從一開始就沒有機器人。
機器人的迅猛成長，與人類的快速退化，是兩個互相推動的變量，二者疊加，人死得更快。現今唯一可行的辦法，就是完全停止發展機器人，到此為止，不管代價如何。
可惜人太聰明，又太懶惰太貪婪，又太想要獨霸世界，人一定會造出機器人來，又一定會被機器人打敗，這是人的宿命，沒有人有機會逃脫。這個可怕的後果，我這一輩是看不到了，操心也沒用，但我們的子孫後代，總會碰上的，那又是不以他們的主觀意志為轉移的。
没有评论:
发表评论