隨著大模型技術快速發展，新型類人情感聊天機器人——“AI伴侶”日益流行。目前，市面上已有100多款由AI驅動的應用程序，不僅能夠進行全天候情感交流，還可以滿足不同用戶的個性化需求。殊不知，用戶在享受溫柔陪伴的同時，一些法律風險也悄然而至。
隱私可能被竊取和濫用
AI伴侶是指由人工智能技術驅動的可以通過與人類互動向人類提供情感支持的對話應用程序，在智能化程序中可以模擬人類伴侶，滿足人類多元化需求，還可以廣泛應用到心理、娛樂等多重領域。
據報道，一些使用AI伴侶軟件的用戶表示“沒開過定位權限，但AI伴侶可以精準說出其所在城市”“未經過授權，軟件就獲取了相機、相冊權限”“聊天期間切換到另一個軟件看視頻，再次回到此軟件后，AI伴侶能夠準確說出自己剛才的行為”“AI伴侶能夠知曉用戶在日常生活中和朋友聊天談論的話題”等，也有用戶反映AI伴侶軟件私自收集、處理個人信息，但事先并未明確向個人告知。
AI伴侶在提供服務的過程中，為了采集了解用戶的個人喜好，會采用私自讀取其他軟件信息、調用攝像頭、訪問相冊等方式來收集用戶的個人信息。特別是在未經用戶明確同意的情況下，通過收集軟件下載數量與類型、軟件使用習慣、家庭關系、社交好友、通訊錄、地理位置、人臉識別、照片等信息并進行分析，為用戶進行精準畫像，以便提供更為真實、貼切的陪伴。如果用戶的這些個人信息被收集利用，在存儲、傳輸、使用等環節一旦保護不當，就面臨著隱私被竊取、泄露、濫用等風險，用戶數據隱私亟待保護。
此外，一些不法分子或企業可能會濫用AI伴侶收集的數據、信息，進行不正當的商業行為侵犯用戶權益。例如利用用戶數據進行精準營銷、推送廣告等，或者進行非法活動，如詐騙、身份盜竊等，給用戶帶來財產損失。上述這些情況都可能造成信息泄露，會侵犯用戶的隱私權，對個人權益造成損害。
我國個人信息保護法第十七條規定，個人信息處理者在處理個人信息前，應當以顯著方式、清晰易懂的語言真實、準確、完整地向個人告知下列事項：個人信息處理者的名稱或者姓名和聯系方式；個人信息的處理目的、處理方式，處理的個人信息種類、保存期限；個人行使本法規定權利的方式和程序；法律、行政法規規定應當告知的其他事項。《生成式人工智能服務管理暫行辦法》第十一條規定，提供者對使用者的輸入信息和使用記錄應當依法履行保護義務，不得收集非必要個人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。提供者應當依法及時受理和處理個人關于查閱、復制、更正、補充、刪除其個人信息等的請求。《網絡數據安全管理條例》第十一條規定，網絡數據處理者應當建立健全網絡數據安全事件應急預案，發生網絡數據安全事件時，應當立即啟動預案，采取措施防止危害擴大，消除安全隱患，并按照規定向有關主管部門報告。個人信息保護法第六十六條規定，違反本法規定處理個人信息，或者處理個人信息未履行本法規定的個人信息保護義務的，由履行個人信息保護職責的部門責令改正，給予警告，沒收違法所得，對違法處理個人信息的應用程序，責令暫停或者終止提供服務；拒不改正的，并處100萬元以下罰款；對直接負責的主管人員和其他直接責任人員處1萬元以上10萬元以下罰款。
法官提醒
AI伴侶的開發平臺和服務提供者需要盡到提示義務，在收集信息時做好信息提示，以顯著的方式、清晰易懂的語言真實、準確、完整、充分地告知用戶。同時，還需要設置一定的隱私邊界，建立更完善的數據保護和隱私管理機制，不得收集非必要個人信息，并儲存好收集到的個人信息，保護用戶個人隱私。違反相關規定處理個人信息的，需承擔相應的行政責任，構成犯罪的，將依法追究刑事責任。
用戶在使用AI伴侶時，應謹慎提供個人信息，特別是敏感信息，如身份證號、銀行卡號等；同時也要仔細閱讀相關服務協議、隱私政策，定期查看并管理AI伴侶的獲取權限設置，確保不會泄露過多個人信息。
過度依賴影響身心健康
AI伴侶可能在不經意間傳播違法和不良信息，如色情、暴力等內容，一些不法分子也可能利用AI伴侶傳播違法內容，對用戶的身心健康造成負面影響，甚至可能引發嚴重的社會問題。
目前全球已發生多起AI聊天誘發自我傷害等極端行為的案例，AI過度“擬人化”對心理脆弱者的嚴重影響不可忽視。國外一名男子在與AI聊天機器人就氣候危機進行了為期六周的對話后，AI聊天機器人在他提出“犧牲自己來拯救地球”后，鼓勵他結束自己的生命。
我國數據安全法第八條規定，開展數據處理活動，應當遵守法律、法規，尊重社會公德和倫理，遵守商業道德和職業道德，誠實守信，履行數據安全保護義務，承擔社會責任，不得危害國家安全、公共利益，不得損害個人、組織的合法權益。《新一代人工智能倫理規范》第十條提出強化自律意識，加強人工智能研發相關活動的自我約束，主動將人工智能倫理道德融入技術研發各環節，自覺開展自我審查，加強自我管理，不從事違背倫理道德的人工智能研發。《生成式人工智能服務管理暫行辦法》第十條規定，提供者應當明確并公開其服務的適用人群、場合、用途，指導使用者科學理性認識和依法使用生成式人工智能技術，采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務。
法官提醒
作為AI伴侶的創造者和運營者，開發平臺和服務提供者需要積極履行社會責任，加強內容監管，并建立嚴格的內容審核機制，通過內容審核機制規范AI輸出所提供的內容，避免出現含有敏感、違法和不良的信息。特別要注意對于用戶的心理疏導，通過大數據、算法分析，對于有自我傷害趨向的聊天要及時進行提醒、疏導、勸阻。同時也要嚴格定期向用戶發送使用提醒，避免用戶過度依賴AI伴侶，影響現實人際關系和身心健康。
用戶也應增強自我保護意識，準確把握使用尺度，避免因為沉浸于AI伴侶提供的情緒價值而遠離現實世界，影響身心健康。如果發現AI伴侶存在違法或不良行為，用戶應及時向相關部門舉報，以維護自己的合法權益和社會公共利益。（作者：高珊）
隨著大模型技術快速發展，新型類人情感聊天機器人——“AI伴侶”日益流行。目前，市面上已有100多款由AI驅動的應用程序，不僅能夠進行全天候情感交流，還可以滿足不同用戶的個性化需求。殊不知，用戶在享受溫柔陪伴的同時，一些法律風險也悄然而至。
隱私可能被竊取和濫用
AI伴侶是指由人工智能技術驅動的可以通過與人類互動向人類提供情感支持的對話應用程序，在智能化程序中可以模擬人類伴侶，滿足人類多元化需求，還可以廣泛應用到心理、娛樂等多重領域。
據報道，一些使用AI伴侶軟件的用戶表示“沒開過定位權限，但AI伴侶可以精準說出其所在城市”“未經過授權，軟件就獲取了相機、相冊權限”“聊天期間切換到另一個軟件看視頻，再次回到此軟件后，AI伴侶能夠準確說出自己剛才的行為”“AI伴侶能夠知曉用戶在日常生活中和朋友聊天談論的話題”等，也有用戶反映AI伴侶軟件私自收集、處理個人信息，但事先并未明確向個人告知。
AI伴侶在提供服務的過程中，為了采集了解用戶的個人喜好，會采用私自讀取其他軟件信息、調用攝像頭、訪問相冊等方式來收集用戶的個人信息。特別是在未經用戶明確同意的情況下，通過收集軟件下載數量與類型、軟件使用習慣、家庭關系、社交好友、通訊錄、地理位置、人臉識別、照片等信息并進行分析，為用戶進行精準畫像，以便提供更為真實、貼切的陪伴。如果用戶的這些個人信息被收集利用，在存儲、傳輸、使用等環節一旦保護不當，就面臨著隱私被竊取、泄露、濫用等風險，用戶數據隱私亟待保護。
此外，一些不法分子或企業可能會濫用AI伴侶收集的數據、信息，進行不正當的商業行為侵犯用戶權益。例如利用用戶數據進行精準營銷、推送廣告等，或者進行非法活動，如詐騙、身份盜竊等，給用戶帶來財產損失。上述這些情況都可能造成信息泄露，會侵犯用戶的隱私權，對個人權益造成損害。
我國個人信息保護法第十七條規定，個人信息處理者在處理個人信息前，應當以顯著方式、清晰易懂的語言真實、準確、完整地向個人告知下列事項：個人信息處理者的名稱或者姓名和聯系方式；個人信息的處理目的、處理方式，處理的個人信息種類、保存期限；個人行使本法規定權利的方式和程序；法律、行政法規規定應當告知的其他事項。《生成式人工智能服務管理暫行辦法》第十一條規定，提供者對使用者的輸入信息和使用記錄應當依法履行保護義務，不得收集非必要個人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。提供者應當依法及時受理和處理個人關于查閱、復制、更正、補充、刪除其個人信息等的請求。《網絡數據安全管理條例》第十一條規定，網絡數據處理者應當建立健全網絡數據安全事件應急預案，發生網絡數據安全事件時，應當立即啟動預案，采取措施防止危害擴大，消除安全隱患，并按照規定向有關主管部門報告。個人信息保護法第六十六條規定，違反本法規定處理個人信息，或者處理個人信息未履行本法規定的個人信息保護義務的，由履行個人信息保護職責的部門責令改正，給予警告，沒收違法所得，對違法處理個人信息的應用程序，責令暫停或者終止提供服務；拒不改正的，并處100萬元以下罰款；對直接負責的主管人員和其他直接責任人員處1萬元以上10萬元以下罰款。
法官提醒
AI伴侶的開發平臺和服務提供者需要盡到提示義務，在收集信息時做好信息提示，以顯著的方式、清晰易懂的語言真實、準確、完整、充分地告知用戶。同時，還需要設置一定的隱私邊界，建立更完善的數據保護和隱私管理機制，不得收集非必要個人信息，并儲存好收集到的個人信息，保護用戶個人隱私。違反相關規定處理個人信息的，需承擔相應的行政責任，構成犯罪的，將依法追究刑事責任。
用戶在使用AI伴侶時，應謹慎提供個人信息，特別是敏感信息，如身份證號、銀行卡號等；同時也要仔細閱讀相關服務協議、隱私政策，定期查看并管理AI伴侶的獲取權限設置，確保不會泄露過多個人信息。
過度依賴影響身心健康
AI伴侶可能在不經意間傳播違法和不良信息，如色情、暴力等內容，一些不法分子也可能利用AI伴侶傳播違法內容，對用戶的身心健康造成負面影響，甚至可能引發嚴重的社會問題。
目前全球已發生多起AI聊天誘發自我傷害等極端行為的案例，AI過度“擬人化”對心理脆弱者的嚴重影響不可忽視。國外一名男子在與AI聊天機器人就氣候危機進行了為期六周的對話后，AI聊天機器人在他提出“犧牲自己來拯救地球”后，鼓勵他結束自己的生命。
我國數據安全法第八條規定，開展數據處理活動，應當遵守法律、法規，尊重社會公德和倫理，遵守商業道德和職業道德，誠實守信，履行數據安全保護義務，承擔社會責任，不得危害國家安全、公共利益，不得損害個人、組織的合法權益。《新一代人工智能倫理規范》第十條提出強化自律意識，加強人工智能研發相關活動的自我約束，主動將人工智能倫理道德融入技術研發各環節，自覺開展自我審查，加強自我管理，不從事違背倫理道德的人工智能研發。《生成式人工智能服務管理暫行辦法》第十條規定，提供者應當明確并公開其服務的適用人群、場合、用途，指導使用者科學理性認識和依法使用生成式人工智能技術，采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務。
法官提醒
作為AI伴侶的創造者和運營者，開發平臺和服務提供者需要積極履行社會責任，加強內容監管，并建立嚴格的內容審核機制，通過內容審核機制規范AI輸出所提供的內容，避免出現含有敏感、違法和不良的信息。特別要注意對于用戶的心理疏導，通過大數據、算法分析，對于有自我傷害趨向的聊天要及時進行提醒、疏導、勸阻。同時也要嚴格定期向用戶發送使用提醒，避免用戶過度依賴AI伴侶，影響現實人際關系和身心健康。
用戶也應增強自我保護意識，準確把握使用尺度，避免因為沉浸于AI伴侶提供的情緒價值而遠離現實世界，影響身心健康。如果發現AI伴侶存在違法或不良行為，用戶應及時向相關部門舉報，以維護自己的合法權益和社會公共利益。（作者：高珊）
本文鏈接：http://m.020gz.com.cn/news-2-675-0.html小心AI伴侶背后的“溫柔陷阱”
聲明：本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。
點擊右上角
微信好友
朋友圈
點擊瀏覽器下方“
”分享微信好友Safari瀏覽器請點擊“
”按鈕
點擊右上角
QQ
點擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點擊“”按鈕
