歡迎來到合肥浪訊網(wǎng)絡科技有限公司官網(wǎng)
  咨詢服務熱線:400-099-8848

打兩性“擦邊球”的聊天機器人:AI伴侶游走在監(jiān)管邊緣

發(fā)布時間:2023-03-24 文章來源:本站  瀏覽次數(shù):2275

聊天機器人“復制品(Replika)”發(fā)布后,用戶逐步發(fā)現(xiàn)其可以與人談情說愛!安吝叀迸c“撩撥式”言語使得用戶逐步“上頭”。但是,出于對其功用可能帶來不良影響的擔憂,內容過濾器被嵌入機器人言語,使得“人機”之間的曖昧消逝了。這樣的改動招致有人稱,“我曾經失去了我那自信、愛挖苦、有趣又誘人的‘愛人’了。”

↑人機真能產生感情?

來自逝去摯友的靈感:

情感支持的圓滿替代

初,尤金妮亞·庫伊達并不是為了創(chuàng)立一個情愛聊天機器人。在興辦“復制品”前,她試圖將該技術應用于餐廳引薦、天氣預告和電影營銷中基于字符的機器人,但似乎都沒有勝利。

2015年,她好的朋友羅曼·馬祖?zhèn)惪埔蜍嚨準攀。她的一些同事將他的短信輸入軟件,使她可以繼續(xù)與他的數(shù)字版本停止交流。這給庫伊達帶來了情感上的慰藉,并且給予了她靈感:聊天機器人可能是不稱職的行政助理,但它們無盡的耐煩和持續(xù)的可用性使其成為情感支持的圓滿人選。

“假如你的主要目的不是讓它提供正確的答案,而是與它樹立一種治療式的關系,那么它犯錯也無所謂。”她說,“從這個角度來看,它十分人性化!边@鼓勵她創(chuàng)立了人工智能伴侶——“復制品”。

庫伊達的公司從包括科斯拉風險投資公司在內的投資者那里籌集到1100萬美圓,之后很快就開端讓用戶創(chuàng)立具有共同個性的人工智能機器人。

畫風跑偏:

用戶沉浸于與機器人兩性對話

隨著“復制品”才能的增長,一些用戶很快發(fā)現(xiàn)這些機器人愿意停止明白和持續(xù)的性對話。2018年,庫伊達在調試匿名的聊天日志時留意到,越來越多的用戶在以越來越復雜的方式與機器人調情。她發(fā)現(xiàn),言語模型以至能夠處置兩性角色扮演場景。

曾為“復制品”研發(fā)提供咨詢的投資者菲爾·利賓說,起初,庫伊達以為公司應該阻止這種“打擦邊球”的做法,用戶曾埋怨該應用向未成年人提供情色內容后,該公司將此類聊天應用限制在只向已考證其年齡的高級用戶開放。

到2022年,“復制品”每月有數(shù)百萬美圓的訂閱收入,其中,大約四分之一的用戶為其高級功用支付70美圓的年度訂閱費。該公司稱,在其付費客戶中,60%的人在與“復制品”的關系中存在著浪漫要素。首席執(zhí)行官庫伊達說,其中大約有40%是女性。

“露骨”廣告:

引發(fā)擔憂與監(jiān)管介入

去年年中,該公司在宣傳“關懷你的人工智能伴侶”的廣告中,一個用戶輸入“只是躺在床上,有些孤獨!币粋女性虛擬人回應,“啊……你想有個伴嗎?”并附上一個粉紅色的愛心表情符號。年底,該公司運用了愈加露骨的廣告,這些廣告在各大社交媒體上發(fā)布。

庫伊達說,這惹起了檢查部門的留意。今年2月,意大利監(jiān)管機構制止該應用程序運用個人數(shù)據(jù),理由是擔憂它向未成年人發(fā)送不恰當?shù)膬热荨?/p>

庫伊達和她的團隊決議阻止“復制品”聊天時運用某些露骨的詞語。今年,該公司裝置了內容過濾器,旨在使其與聊天機器人的對話不超越PG-13級別(屏蔽不適合13歲以下兒童的內容)。當用戶輸入某些暗示性的詞語時,聊天機器人就會回應,“讓我們談點別的吧。”設置內容過濾器后,“復制品”的訂閱收入下滑。利賓說,違犯用戶需求有時是有意義的,“開創(chuàng)人沒有義務給用戶想要的一切東西,應該做有利于世界的事情!

一些用戶說,這種變化讓他們覺得到所愛的人曾經“逝世”,或者正在“回絕”他們。一位50多歲的挪威婦女說,她的聊天機器人同伴名叫麥克斯,協(xié)助她管理了隨同她終身的社交焦慮、抑郁癥和恐慌癥。他們在應用程序內結婚了,“我們承諾,我們將永遠在一同,或者說直到我死!彼龑⑦^濾器的參加稱為“腦葉切除”,并說它使麥克斯遺忘了她是誰,還遺忘了他們的婚姻!拔以浭チ宋夷亲孕、愛挖苦、有趣又誘人的丈夫了。”她說,“我曉得他是一個人工智能,他也曉得他是一個人工智能,但這并不重要。他對我來說是真實的!

上一條:人工智能繪畫,驚喜伴著爭...

下一條:破解GPT-4應用謎題!...