現在 AI 可以說是什麼都能做，翻譯、撰寫郵件、寫文章大綱、問學校功課等等的工作都可以交給 AI 來完成。將 AI 用於正確的途徑一定沒問題，但如果把 AI 放到色情行業的話就會產生很大的麻煩。近日中國出現第一起使用 AI 技術撰寫色情小說牟利並被判刑的案件，被告依靠 AI 獲利約 2 萬人民幣，遭中國法院判有期徒刑十個月+罰金五千元人民幣並退還違法所得。
中國首例使用 AI 撰寫色情小說牟利案件：被告判刑 10 個月
近日中國湖北省大治市人民法院審理了第一起使用 AI 人工智慧技術撰寫色情小說並牟利的案件，被告人柯某從 2022 年 11 月到 2023 年 3 月的時間內使用 AI 工具撰寫色情小說並使用翻牆軟體在中國境外黃色網站上發布色情小說文章，同時還在另一個網站上售賣小說獲利。
五個月的時間裡被告柯某總計發布數十篇色情小說，每篇 15～30 元人民幣，平均每篇小說字數為 1 萬到 3 萬字左右。總計在五個月期間內就獲利約 2 萬人民幣，而柯某販售的小說經送檢鑑定後確認均為淫穢物品。
因上述原因，柯某被中國湖北省大治市人民法院以製作、販賣、傳播淫穢物品牟利罪被判處有期徒刑 10 個月、罰金人民幣五千元並要求退款所有違法所得。
其實本次事件並不是第一起 AI 用於色情行業的情況，之前韓國就有使用 AI 來製作 Deepfake 影片並上傳到色情網站上的事件。如果 AI 技術不能受到合理的規範，那 AI 就會變成非常具有爭議性的技術。中國在去年就已經開始要立法規範 AI 生成內容，要求人民對使用 AI 生成的內容進行標示。本次負責柯某案件的法官也呼籲相關部門應加強對 AI 技術的監管，明確技術使用的法律邊界。同時也鼓勵企業和 AI 開發者將 AI 人工智慧技術用於合法、健康的領域，推動技術創新與社會責任的平衡。