近日，一款名為「妙鴨相機」的AI拍照程式開始流行。用戶只要上傳21張包含人臉的照片，就能生成一個專屬的數字分身，並有各種風格的寫真模板可供選擇。很多網友稱，妙鴨相機秒殺了海馬體、天真藍等實體寫真品牌。妙鴨相機的走紅引發不少爭議，在數據合規上，它仍待進一步弄清楚用戶生成數據的存儲和處理規則，激發公眾不斷討論AIGC的合理邊界。我們應該如何權衡新時代下人工智能帶來的利與弊？.過去幾年，人工智能成為無數頭條新聞的主題，提高了公眾對其潛力的興趣和擔憂。最近幾週，媒體對ChatGPT等生成式人工智能工具的用途和缺點進行了報導。而娛樂業也一直在討論人工智能發展的利（如新藝術形式的興起）和弊（無論是否得到表演者的許可，都可以復製表演者的臉和/或聲音的深度偽造）。雖然人工智能是不會消失的強大資源，但各行各業、政府和廣大公眾需要隨時了解其發展動態，並認真思考其使用所涉及的道德問題。福布斯技術委員會的17位成員分享了一些令人驚訝和不安的人工智能應用方式，這些方式也許曾經我們不知道，但現在應該知道。 1. 釣魚信息和惡意軟件人工智能增強了現有威脅並引入了新威脅。聊天機器人可以省去製作網絡釣魚誘餌的繁瑣工作；最終，黑客會將互聯網接入、自動化和人工智能結合起來，讓他們編寫劇本說：「了解目標X，並不斷向他們發送信息，直到他們點擊為止。」我們甚至已經看到人工智能被用於編寫多態惡意軟件的證據。我們需要優秀的人工智能來反擊。 2. 身份盜竊公眾應該知道，人工智能生成的深度假冒不僅針對知名人士。欺詐者正利用它們來竊取個人身份，從而獲得銀行賬戶和機密信息。幸運的是，具有多種識別因素的驗證平台可以幫助阻止欺詐以及個人信息和文件的潛在洩漏。 3. 日益複雜的網絡攻擊黑客越來越多地利用人工智能進行複雜的網絡攻擊。人工智能可以自動執行和優化任務，包括偵察和漏洞掃描，並經過訓練模仿人類行為，使攻擊者能夠發起令人信服的社交工程攻擊和網絡釣魚電子郵件。這給網絡安全帶來了巨大挑戰，需要不斷適應和先進的人工智能驅動防禦。 4. 造謠行為人工智能生成的文本可用於創建複雜的虛假信息活動。通過模仿有影響力人物的寫作風格，人工智能可以生成看似真實的假新聞文章、社交媒體帖子或博客文章。這引發了人們對虛假信息傳播和網絡內容信任度下降的擔憂。 5. 洩露個人數據在大型數據集上訓練的人工智能模型可以從文本中捕捉模式和知識，其中可能包括敏感或個人信息。這引發了人們對個人數據隱私和安全的擔憂，因為人工智能生成的文本可能會無意中洩露私人細節或被用於惡意目的，如社交工程攻擊或身份盜竊。 6. 名譽損害令人不安的是「深度偽造」技術可能帶來極具破壞性的報復場景。報復者可以通過在親密視頻中換臉，輕易製造出某人出軌的假象；製造受害者說攻擊性話語的假視頻，損害其職業生涯（即使視頻被證實是假的）；或者用深度偽造的視頻敲詐某人，威脅說除非滿足其要求，否則就公開發布該視頻。 7. 冒充受信任的個人深度假冒行為呈上升趨勢，對消費者和企業都造成了安全威脅。壞人可以利用人工智能冒充銀行職員，甚至通過電話冒充家庭成員。這些網絡釣魚攻擊非常危險--其緊迫性和欺騙性專門針對人類情感，最終目的是竊取個人身份信息和/或金錢。 8. 操縱選舉結果人工智能深度偽造會扭曲民主話語，操縱選舉。深度偽造可以用來傳播關於政治候選人、政黨或問題的錯誤信息、宣傳和假新聞。政治領導人可以被假冒或抹黑，政治活動家或記者也可以被假冒或抹黑。這會影響選民行為，破壞公眾信任，動搖民主制度。人工智能的使用需要加以控制。 9. 自主武器系統我相信，人工智能驅動的自主武器系統總有一天會發展起來。這些系統有可能在沒有人類直接控制的情況下做出關於目標選擇和交戰的關鍵決策。這將引發嚴重的倫理問題。 10. 圖像操縱大多數人沒有意識到，人工智能可以用來操縱圖像。人工智能驅動的圖像處理技術可以獲取現有圖像並改變其中的元素，如背景、顏色和其他特徵。從面部識別到創建逼真的深度偽造，這項技術無所不能。它是一種強大的工具，根據不同的應用，在道德和不道德的情況下都可以使用。 11. 監視利用人工智能作為監控工具是一種令人不安的方式。人臉識別技術越來越普遍，有些人擔心它會在人們不知情的情況下被用來監視他們。我認為我們需要更加小心，讓使用這種技術的公司承擔責任，這樣人們的權利才不會受到侵犯。 12. 對抗性攻擊人工智能對抗性攻擊是該技術的一種令人驚訝和擔憂的應用。這些攻擊會巧妙地操縱人工智能輸入，誘發錯誤輸出，誤導包括自動駕駛汽車或面部識別系統在內的系統。這種陌生的威脅可能導致重大的安全風險，因此提高公眾意識和系統復原力至關重要。 13. 更普遍和更具侵略性的廣告人工智能可用於更具滲透性的廣告。有了人工智能，人們可以分析消費者的情緒狀態，並利用他們在情緒上的弱點，向他們投放高度個性化的廣告。人工智能算法可以區分快樂和悲傷的表情，理解文字情感和語氣，並讀取其他行為模式，從而操縱用戶的決策過程，促使他們進行購買。 14. 創建迴聲室對我來說，最令人不安的發展是人工智能只提供人們想看和想知道的東西。你越多地點擊表達某種觀點的網站和網頁，這種觀點就越多地展現在你面前。這導致人們偏袒任何一方，認為那些與自己觀點不同的人是信息錯誤、不聰明或被誤導。實際上，我們每個人都只看到了與我們現有觀點一致的東西。 15. 現實的數字影響者一些公司正在創造人工智能生成的社交媒體影響者，完全生成，在外觀和行為上都與真人無異。他們可以積累大量粉絲，為產品代言，甚至與其他有影響力的人合作。真實與虛擬個體之間的模糊界限，引發對影響者營銷透明度和真實性的道德擔憂。 16. 創建合成數據公眾可能不知道的，利用人工智能的方式是創建合成數據，即模仿圖像、文本、音頻或視頻等真實數據。合成數據有幾個有價值的用途，包括訓練機器學習模型、測試軟件和提高隱私性。然而，在質量、有效性、公平性以及保障原始數據所有者和用戶的權利方面也存在挑戰。 17. 醫學圖像解讀人工智能解讀X光或核磁共振成像等醫學影像的能力令人驚嘆，但也令人不安。雖然它可以幫助早期發現疾病，但如果算法存在缺陷或偏差，就可能導致誤診和不恰當的治療。我們在處理人工智能在醫療保健領域的應用時，必須對其巨大潛力和嚴格驗證的必要性有一個平衡的認識。本文作者為福布斯技術委員會 譯｜福布斯中國
近日，一款名為「妙鴨相機」的AI拍照程式開始流行。用戶只要上傳21張包含人臉的照片，就能生成一個專屬的數字分身，並有各種風格的寫真模板可供選擇。很多網友稱，妙鴨相機秒殺了海馬體、天真藍等實體寫真品牌。妙鴨相機的走紅引發不少爭議，在數據合規上，它仍待進一步弄清楚用戶生成數據的存儲和處理規則，激發公眾不斷討論AIGC的合理邊界。我們應該如何權衡新時代下人工智能帶來的利與弊？.過去幾年，人工智能成為無數頭條新聞的主題，提高了公眾對其潛力的興趣和擔憂。最近幾週，媒體對ChatGPT等生成式人工智能工具的用途和缺點進行了報導。而娛樂業也一直在討論人工智能發展的利（如新藝術形式的興起）和弊（無論是否得到表演者的許可，都可以復製表演者的臉和/或聲音的深度偽造）。雖然人工智能是不會消失的強大資源，但各行各業、政府和廣大公眾需要隨時了解其發展動態，並認真思考其使用所涉及的道德問題。福布斯技術委員會的17位成員分享了一些令人驚訝和不安的人工智能應用方式，這些方式也許曾經我們不知道，但現在應該知道。 1. 釣魚信息和惡意軟件人工智能增強了現有威脅並引入了新威脅。聊天機器人可以省去製作網絡釣魚誘餌的繁瑣工作；最終，黑客會將互聯網接入、自動化和人工智能結合起來，讓他們編寫劇本說：「了解目標X，並不斷向他們發送信息，直到他們點擊為止。」我們甚至已經看到人工智能被用於編寫多態惡意軟件的證據。我們需要優秀的人工智能來反擊。 2. 身份盜竊公眾應該知道，人工智能生成的深度假冒不僅針對知名人士。欺詐者正利用它們來竊取個人身份，從而獲得銀行賬戶和機密信息。幸運的是，具有多種識別因素的驗證平台可以幫助阻止欺詐以及個人信息和文件的潛在洩漏。 3. 日益複雜的網絡攻擊黑客越來越多地利用人工智能進行複雜的網絡攻擊。人工智能可以自動執行和優化任務，包括偵察和漏洞掃描，並經過訓練模仿人類行為，使攻擊者能夠發起令人信服的社交工程攻擊和網絡釣魚電子郵件。這給網絡安全帶來了巨大挑戰，需要不斷適應和先進的人工智能驅動防禦。 4. 造謠行為人工智能生成的文本可用於創建複雜的虛假信息活動。通過模仿有影響力人物的寫作風格，人工智能可以生成看似真實的假新聞文章、社交媒體帖子或博客文章。這引發了人們對虛假信息傳播和網絡內容信任度下降的擔憂。 5. 洩露個人數據在大型數據集上訓練的人工智能模型可以從文本中捕捉模式和知識，其中可能包括敏感或個人信息。這引發了人們對個人數據隱私和安全的擔憂，因為人工智能生成的文本可能會無意中洩露私人細節或被用於惡意目的，如社交工程攻擊或身份盜竊。 6. 名譽損害令人不安的是「深度偽造」技術可能帶來極具破壞性的報復場景。報復者可以通過在親密視頻中換臉，輕易製造出某人出軌的假象；製造受害者說攻擊性話語的假視頻，損害其職業生涯（即使視頻被證實是假的）；或者用深度偽造的視頻敲詐某人，威脅說除非滿足其要求，否則就公開發布該視頻。 7. 冒充受信任的個人深度假冒行為呈上升趨勢，對消費者和企業都造成了安全威脅。壞人可以利用人工智能冒充銀行職員，甚至通過電話冒充家庭成員。這些網絡釣魚攻擊非常危險--其緊迫性和欺騙性專門針對人類情感，最終目的是竊取個人身份信息和/或金錢。 8. 操縱選舉結果人工智能深度偽造會扭曲民主話語，操縱選舉。深度偽造可以用來傳播關於政治候選人、政黨或問題的錯誤信息、宣傳和假新聞。政治領導人可以被假冒或抹黑，政治活動家或記者也可以被假冒或抹黑。這會影響選民行為，破壞公眾信任，動搖民主制度。人工智能的使用需要加以控制。 9. 自主武器系統我相信，人工智能驅動的自主武器系統總有一天會發展起來。這些系統有可能在沒有人類直接控制的情況下做出關於目標選擇和交戰的關鍵決策。這將引發嚴重的倫理問題。 10. 圖像操縱大多數人沒有意識到，人工智能可以用來操縱圖像。人工智能驅動的圖像處理技術可以獲取現有圖像並改變其中的元素，如背景、顏色和其他特徵。從面部識別到創建逼真的深度偽造，這項技術無所不能。它是一種強大的工具，根據不同的應用，在道德和不道德的情況下都可以使用。 11. 監視利用人工智能作為監控工具是一種令人不安的方式。人臉識別技術越來越普遍，有些人擔心它會在人們不知情的情況下被用來監視他們。我認為我們需要更加小心，讓使用這種技術的公司承擔責任，這樣人們的權利才不會受到侵犯。 12. 對抗性攻擊人工智能對抗性攻擊是該技術的一種令人驚訝和擔憂的應用。這些攻擊會巧妙地操縱人工智能輸入，誘發錯誤輸出，誤導包括自動駕駛汽車或面部識別系統在內的系統。這種陌生的威脅可能導致重大的安全風險，因此提高公眾意識和系統復原力至關重要。 13. 更普遍和更具侵略性的廣告人工智能可用於更具滲透性的廣告。有了人工智能，人們可以分析消費者的情緒狀態，並利用他們在情緒上的弱點，向他們投放高度個性化的廣告。人工智能算法可以區分快樂和悲傷的表情，理解文字情感和語氣，並讀取其他行為模式，從而操縱用戶的決策過程，促使他們進行購買。 14. 創建迴聲室對我來說，最令人不安的發展是人工智能只提供人們想看和想知道的東西。你越多地點擊表達某種觀點的網站和網頁，這種觀點就越多地展現在你面前。這導致人們偏袒任何一方，認為那些與自己觀點不同的人是信息錯誤、不聰明或被誤導。實際上，我們每個人都只看到了與我們現有觀點一致的東西。 15. 現實的數字影響者一些公司正在創造人工智能生成的社交媒體影響者，完全生成，在外觀和行為上都與真人無異。他們可以積累大量粉絲，為產品代言，甚至與其他有影響力的人合作。真實與虛擬個體之間的模糊界限，引發對影響者營銷透明度和真實性的道德擔憂。 16. 創建合成數據公眾可能不知道的，利用人工智能的方式是創建合成數據，即模仿圖像、文本、音頻或視頻等真實數據。合成數據有幾個有價值的用途，包括訓練機器學習模型、測試軟件和提高隱私性。然而，在質量、有效性、公平性以及保障原始數據所有者和用戶的權利方面也存在挑戰。 17. 醫學圖像解讀人工智能解讀X光或核磁共振成像等醫學影像的能力令人驚嘆，但也令人不安。雖然它可以幫助早期發現疾病，但如果算法存在缺陷或偏差，就可能導致誤診和不恰當的治療。我們在處理人工智能在醫療保健領域的應用時，必須對其巨大潛力和嚴格驗證的必要性有一個平衡的認識。本文作者為福布斯技術委員會 譯｜福布斯中國
