已經有人試圖要讓 ChatGPT 寫惡意軟體

ChatGPT AI聊天機器人在推出短短時間內就創造了很多興奮，現在似乎有些人試圖利用它來生成惡意代碼。

ChatGPT是一個AI驅動的自然語言處理工具，在與使用者進行對話時表現出類人的交談方式。除此之外，它還可以用於幫助撰寫電子郵件、論文和程式碼等任務。

聊天機器人工具是由人工智慧研究實驗室OpenAI於去年11月發布的，引起廣泛的興趣和討論，關於AI的發展以及未來可能的應用。

然而，就像任何其他工具一样，如果被放在錯誤的手中，它可能會被用於不良用途；而資安研究人員在 Check Point 表示，地下黑客社區的使用者已經在實驗 ChatGPT 如何協助進行網路攻擊和支援惡意操作。

Check Point 之威脅情報組經理 Sergey Shykevich 告訴 ZDNET：「非常低技術水平（甚至完全沒技術知識）的威脅行為者可能能夠創建惡意工具，並且還可以使複雜的網絡罪犯的日常操作更加高效和簡單 - 就像創建感染鏈的不同部分。」

OpenAI 的服務條款明文禁止生成惡意軟體，這包括了「試圖生成勒索軟體、鍵盤側錄器、病毒或其他旨在造成損害的軟體」等內容。它還禁止嘗試製造垃圾郵件，以及旨在進行網絡犯罪的使用情境。

然而，對數個主要的地下黑客論壇活動的分析表明，網絡罪犯已經開始使用ChatGPT開發惡意工具，有些時候它甚至已經讓沒有開發或編碼技能的低水平網絡罪犯創建惡意軟件。

同時：網際網路可怕的未來：明天的科技將帶來更大的網路安全威脅

在十二月底出現的某個論壇主題中，張貼者描述了如何使用 ChatGPT 重現研究出版物和有關常見惡意軟件的寫作中描述的惡意軟件品種和技術。

他們透過這種方式得以創造基於 Python 的資訊竊取惡意軟體，該軟體搜尋常見的檔案，包括 Microsoft Office 文件、PDF 檔案和圖片，將它們複製並上傳至檔案傳輸協議伺服器。

同一位使用者也展示了他們如何使用 ChatGPT 創造基於 Java 的惡意軟體，透過 PowerShell 可以被利用來暗中下載及執行其他的惡意軟體到已受感染的系統中。

研究人員指出，論壇的使用者似乎有強烈的技術取向並分享這些文章，以向技術能力較弱的網絡罪犯展示如何利用人工智慧工具進行惡意攻擊，並提供實際的範例。

一位使用者發佈了一個 Python 腳本，他們稱這是他們創建的第一個腳本。在與另一個論壇成員討論後，他們表示 ChatGPT 幫助他們創建了這個腳本。

對該腳本的分析表明它旨在加密和解密文件，經過一些工作後，可能會轉化為勒索軟件，從而有可能導致初級網絡罪犯開發和分發自己的勒索活動。

Check Point 表示："当然，所有上述的代碼都可以以良性方式使用。但是，這個腳本可以容易地被修改，使其完全加密某人的計算機，而不需要任何用戶互動。例如，如果修復腳本和語法問題，它有可能被轉化為勒索軟件代碼。"

“這將需要對程式碼和語法進行一些改進，但概念上，在運行時，這個工具可以執行類似勒索軟件的行動，”Shykevich表示。

另外：网络安全：2023 年需要担心的新问题

但黑客們在 ChatGPT 上的實驗，不僅限於惡意軟體的開發。除夕夜，一名地下論壇成員發布了一個帖子，展示了他們如何使用該工具創建腳本，以便操作一個自動化的暗網市場，用於買賣被盜賬戶資訊、信用卡信息、惡意軟體等。

這個網路罪犯甚至炫耀使用第三方API生成的代碼，以便獲取更新的Monero、Bitcoin和Ethereum加密貨幣價格，作為暗網市場的付款系統的一部分。

判斷是否有惡意的網路活動利用 ChatGPT 在野外進行是困難的，因為正如 Sykevich 所解釋的那樣，“從技術角度來看，很難知道特定的惡意軟體是否是使用 ChatGPT 撰寫的”。

然而，隨著對 ChatGPT 和其他 AI 工具的興趣增加，它們將吸引網絡罪犯和詐騙分子的關注，這些人會試圖利用技術來進行低成本且盡可能少的努力的惡意活動。ZDNET 已聯繫 OpenAI ，但在發布文章時尚未收到回應。

已經有人試圖要逼迫 ChatGPT 寫惡意軟體