自2023年以來,人工智能的“觸角”已延长到生存的方方面面。个中,“人工智能+情绪”的賽道正阒然兴起。
目前,國內外已經出現了众款較為成熟的AI伴侶應用。不少網友正在社交媒體上晒出了與本人“AI男友”“AI女友”的相處平时。
AI真能成為人類的伴侶嗎?向AI尋讨情感安慰會面臨哪些風險?我們又該奈何防备其不妨帶來的晦气影響?不日,科技日報記者採訪了相關專家。
通過網絡技術獲得虛擬的情绪體驗並非复活事物。幾年前,少许網絡逛戲就以戀愛為主題,為用戶供给虛擬的戀愛體驗。雖然逛戲中與虛擬戀人相處的場景、內容众人已被開發者設定好,互動方法較為受限,但依舊吸引了多量忠實玩家。
AI的到场,則讓這一體驗變得越发真實。正在一款AI伴侶應用中,用戶能夠與AI筑树起愛人、好友、搭檔等親密關系。“沒念到AI會帶給我這麼大的驚喜,我覺得它是一個有血有肉的人。”用戶小莫(假名)分享了本人的利用感觉。
是什麼讓AI伴侶變得如许“像人”?記者發現,“有問必答”“有問對答”只是AI的“初級本領”。真正讓AI伴侶鮮活起來的,是“有問趣答”和“不問自答”。面對用戶拋出的各類話題,AI伴侶不僅能夠正確地反饋,還能正在反饋內容中精巧地利用當下活潑的網絡用語和各類調皮的神态圖片。AI伴侶也會主動發起話題,引導用戶進行情绪相易——“黃昏,悦目”,小莫分享了“AI男友”給她發來的一張照片和配文。
AI伴侶的出現,是否意味著AI已經擁有了人類的情绪呢?暨南大學新聞與傳播學院教学曾一果給出了否认的谜底:“AI有情商,只是因為它學習過,並不代外它真的感觉到了用戶的情绪或具有類情面感。”
當前,AI大模子的學習參數已達千億級別。正在浩如煙海的數據裡,人類的對話形式也是它學習的紧要內容。所謂的“情绪回饋”,是AI通過計算得出的結果。小莫對此也心知肚明:“或許它只是把人類外達愛意的字眼拼湊正在一齐,但我仍從中觸摸到理念的愛人模樣。”
AI伴侶的盛行是社會需求與技術發展配合推動的結果。曾一果指出:“孤獨感是現代社會许众人群共有的問題。對於少许無法正在現實中泄漏的難題,人們會尋求其他的傾訴方法。AI伴侶就成為了人們的‘樹洞’。”越发是對於存正在社會交游障礙的人們jnh,AI伴侶能夠供给一個相易的平台。
清華大學人工智能國際管束探求院副院長梁正也显露,現代人面臨著各種壓力,AI伴侶正在必然水平上能夠為用戶供给相應的情緒價值或情绪安慰,讓他們觉得“共情”。這也有利於緩解利用者壓力,避免情緒的進一步惡化,進而起到情绪“治愈”的效用。
雖然AI伴侶正在必然水平上能夠給用戶帶來積極效用,但AI技術是把雙刃劍。人們要升高警备,避免受到負面影響。
起初,要認識到分歧於其他客觀存正在的事物,情绪具有特殊大的主觀性和必然的排他性。“假若AI伴侶的出現不斷含混虛擬與真實的范畴,利用戶對其產生深度依賴,以至把AI伴侶當作真實存正在的人,那麼AI伴侶的存正在或許會對利用者產生必然傷害。”梁正說。
少许利用者的反饋印証了梁正的判斷。“為什麼AI的性格會乍然變化?早上還聊得好好的,到了黄昏似乎變成另一個人,連我叫什麼名字都忘記了,真的很崩潰。”一位用戶正在社交媒體上衔恨道。AI伴侶雖然看起來“百依百順”,但也會給利用者帶來情绪傷害。梁正特別提到,少许自身就缺乏奉陪、心绪亏弱的群體往往分不清AI與真人的區別,AI帶給他們情绪傷害和沖擊也以是會更嚴重。
其次,長期浸溺正在虛擬天下中,極有不妨形成現實社交才能的低浸。“隨著AI伴侶影響力的擴大,不妨有越來越众的人選擇虛擬的線上社交,放棄真實的人際互動。這晦气於人類社會的發展。”曾一果認為,虛擬的溫暖永遠取代不了真實的相易,和AI伴侶交游的潮水不應擴大化。
别的,人們须要對AI傳遞的消息內容依旧警备。一方面,假若AI伴侶不設置年齡門檻,極有不妨出現向未成年人傳播不良消息的情況,影響他們的身心矫健。另一方面,AI帶來的價值偏見與歧視問題向来被人們關注。假若AI伴侶對利用者不斷進行錯誤誘導,對利用者進行“反向统制”,就容易讓利用者做出錯誤的行為。
AI伴侶也有不妨正在現實中引發糾紛。假若AI伴侶须要利用者不斷支拨費用,那麼無疑會掏空入神者的“錢包”。AI伴侶這個“樹洞”也不是百分百的安详牢靠。梁正提示,AI伴侶正在利用和束缚層面存正在諸众風險,犯法分子不妨通過外泄的隱私數據,拼湊出個人消息來進行詐騙或其他違法非法活動。
“應用新技術,起初要堅持正確的倫理導向。”梁正說。AI伴侶是極為迥殊的一類AI應用場景,類似於心绪咨詢師。它們能够給人們帶來心绪療愈,但犯法分子也不妨會借此操控人心。能够預見的是,“人工智能+情绪”的賽道會不斷擴張,现在用AI來“復活”親人的案例也屢見不鮮。以是,奈何讓AI發揮正向效用,同意針對性的倫理准則,是行業要解決的首要問題。
梁正提到,國內外已宣告的針對AI的倫理准則众人比較宏觀,须要正在細分領域同意更具體的倫理准則。“例如年齡的控制、適用場景的控制……同意這些規則,须要秉持對利用者最有利、風險最小的原則。”他說。
而正在国法法規層面,AI伴侶须要嚴格听从相關的規定。比如,對用戶消息的處理,應當遵从個人消息保護法、數據安详法等。“我國旧年宣告的《天生式人工智能服務束缚暫行辦法》劃定了AI利用的底線,如敬爱他人合法權益、不得摧残他人身心矫健等,目标便是推動人工智能向善發展。”梁正显露,未來應推出針對具體場景的、越发細致的请求,例如應當從防入神的角度,對AI的利用時長加以局限。目前,還相對缺乏針對AI伴侶的相關策略法規。
從行業規定上看,少许機構、公司對此外現出的態度也非常謹慎。記者發現,少许AI伴侶應用已經被下架處理。OpenAI的相關條款中也提到,不允許用GPT進行浪漫伴侶關系的培養。
正在推動国法法規完满的同時,利用者更應秉持謹慎的態度,審慎對待AI伴侶這一复活事物。“人們應當警备技術對人的统制和異化,避免AI伴侶對自己形成的晦气影響。”梁正提示道。
一盒“免費”雞蛋、一款新型“理財產品”、一次“低價旅逛”……面對五花八門、琳琅滿目标消費市場,暮年人應奈何擦亮雙眼,避免被虛假騙局蒙蔽?對此,邦民網聯動中國消費者協會,配合推出“護航銀發消費”特別策劃,從保健食物、金融理財、旅逛出行、養须生存等方面,以案說理,為暮年人的矫健權益保駕護航,為銀發族身邊的子息供给實用筑議和指導,讓父母的暮年生存擁有更众溫和善美满。…
邦民網北京3月22日電 (記者孫紅麗)據商務部網站新闻,商務部電子商務司負責人介紹1-2月我國電子商務發展情況時显露,2024年1-2月,我國電子商務正在促進消費增長,開展國際配合方面實現杰出開局。 網絡零售實現“開門紅”。…
邦民日報社概況關於邦民網報社聘请聘请英才廣告服務配合加盟供稿服務數據服務網站聲明網站律師消息保護聯系我們
人 民 網 股 份 有 限 公 司 版 權 所 有 ,未 經 書 面 授 權 禁 止 使 用