9.9元生成AI寫真，小程序妙鴨相機走紅，用戶人臉隱私誰來保護？

生成式AI技術正在改變更多行業(yè)，當國內大模型產品在B端深入垂直行業(yè)時候，更靠近C端用戶的小程序妙鴨相機，一經(jīng)推出迅速走紅。

近日，一款在線生成專業(yè)質感大片的AI相機“妙鴨”掌握了引爆社交圈的流量密碼，只需9.9元，上傳21張照片，用戶可以生成一套可媲美天真藍、海馬體的AI寫真，并可將圖片上傳微信朋友圈、微博等社交平臺。

上線不足半月，秒鴨相機團隊發(fā)布公告，近期網(wǎng)絡上出現(xiàn)多個假冒“妙鴨相機”的產品、仿造“妙鴨相機”官方渠道的賬號、軟件和小程序，給消費者造成嚴重的信息安全隱患。同時，用戶發(fā)現(xiàn)，隨著使用人數(shù)增多，用戶生成照片時間需等待數(shù)小時，妙鴨相機的火爆可見一斑。

火速躥紅之后，妙鴨相機遭遇“隱私”爭議，爭議背后，是網(wǎng)民對于個人隱私安全的擔憂：用戶上傳的照片如何處理？應用方是否會將用戶照片挪作他用？若上傳的照片被用于AI模型訓練，那用戶的一些面部特征是否會出現(xiàn)在其他地方的生成圖片？而這些不僅僅是妙鴨相機，也是更多需要上傳照片的相機應用所面臨的問題。

收費9.9元，數(shù)千人排隊

近半年來，以ChatGPT為代表的大模型產品甚囂塵上，國內企業(yè)也掀起“百模大戰(zhàn)”，在此背景下，妙鴨相機于6月開始內測，打出的口號是“讓每個人擁有一個屬于自己的AI攝影師”。

打開妙鴨相機小程序，首先需要上傳一張正面照片，隨后補充至少20張照片，在該步驟，系統(tǒng)會提示照片是否達標，已上傳照片的質量超過多少百分比的用戶，用戶可以選擇補充更多照片，讓“數(shù)字分身”效果更棒。上傳照片后，用戶需關注妙鴨相機公眾號，完成付費流程，標準價是29.9元，限時特惠9.9元，一旦購買成功，不支持退款。

從用戶的分享來看，上傳照片后，用戶可以得到不同風格的寫真，如商務寫真、時尚海報、證件照、旅游大片等，生成的照片均帶有水印，想要下載高清照片或照片原圖需支付額外費用。而當澎湃新聞記者試用該程序后，發(fā)現(xiàn)生成照片預計需要3小時25分鐘，前面有1308人。

隨著使用用戶的增多，等待時間較長被付費用戶詬病，用戶對需上傳21張照片、模板效果不是很好也略有不滿。有網(wǎng)友指出在晚上高峰期間，曾碰到4000至5000人排隊，等待時間需十幾個小時，另有網(wǎng)友表示：“美顏美到不像本人，但又依稀有本人的影子?！?/p>

在記者的朋友圈，一位關注互聯(lián)網(wǎng)行業(yè)的研究員分享了自己的三點體會：“一是妙鴨相機后臺算力算法應該一般，用時長、精度差；二是模板少，尤其對于男性而言，參與度低，但這應該是一個未來很好的應用場景；三是經(jīng)過這一波走紅，妙鴨積累了數(shù)據(jù)與收入，未來可以繼續(xù)講故事融資。”

針對網(wǎng)友的聲音，妙鴨相機曾在7月17日表示，寫真的效果還遠沒達到團隊的理想狀態(tài)，會繼續(xù)優(yōu)化“提香”的能力；妙鴨相機并不是攝影師的敵人，將很快開啟對攝影師邀請制的內測合作，通過妙鴨，攝影師可以將自己的風格和審美制作成模板，從而讓更多人享受到他們的創(chuàng)意。

妙鴨相機的背后公司是誰？

天眼查APP顯示，妙鴨相機的主體公司是成立于2006年的未序網(wǎng)絡科技（上海）有限公司，該公司是一家從事軟件和信息技術服務為主的企業(yè)，注冊資本為5520萬美元，其法定代表人張龍名下有多家公司，張龍也是優(yōu)酷視頻（西安）傳媒科技有限公司的法定代表人、執(zhí)行董事兼總經(jīng)理；而未序網(wǎng)絡科技（上海）有限公司的監(jiān)事馮云樂也同時擔任了多家阿里系公司的監(jiān)事。

未序網(wǎng)絡科技（上海）有限公司與阿里有何關系？一位阿里文娛方面人士告訴澎湃新聞記者：“是（阿里）大文娛參投的創(chuàng)業(yè)團隊?！?/p>

據(jù)澎湃新聞記者了解，該創(chuàng)業(yè)項目組從今年1月開始做妙鴨相機，7月份完成妙鴨的1.0版本，隨著妙鴨相機的走紅，團隊在開心的同時希望保持“低調”。

是否保障用戶隱私和數(shù)據(jù)安全引發(fā)爭議

妙鴨相機的走紅，讓用戶再次討論起AI軟件所帶來的風險問題。有安全研究員曾告訴澎湃新聞記者，類似于AI換臉軟件從用戶處獲得的信息主要是肖像圖片，從技術角度而言，它并不比其他上傳照片的App有更多風險，但若該類軟件向用戶索取了更多的肖像使用授權，這意味著用戶會暴露更多的風險。

對于妙鴨相機， 國內知名白帽子公司KEEN公司聯(lián)合創(chuàng)始人、獨立安全研究員宋宇昊告訴澎湃新聞記者，看一項應用是否正規(guī)，可以從兩個方面來看，一是用戶上傳的照片是否會被存儲、存儲多久、照片和用戶信息在傳輸和存儲過程中，是否存在泄露風險；二是上傳的照片是否會被用于AI模型訓練。

“第一種情況，一旦由于外部攻擊或內部不法人員導致泄露，那么用戶的照片與相關的用戶信息可能流入黑產，被用于針對性的詐騙，或者其他犯罪行為。第二種情況，如果用戶的照片在用戶不知情的情況下，被用于模型訓練，那么用戶的一些面部特征可能會出現(xiàn)在其他地方的生成圖片中，這可能是用戶不希望發(fā)生的?！彼斡铌徽f。

澎湃新聞記者查看妙鴨相機的隱私政策發(fā)現(xiàn)，對于儲存期限，隱私政策并沒有直接給出明確的時間期限，而是“我們只會在達成本政策所述目的所需的期限內保留您的個人信息，除非法律有強制的留存要求”。

妙鴨相機指出，在中華人民共和國境內產生或收集的個人信息，存儲在中國境內的服務器。除非取得用戶的單獨同意，或為了履行與用戶訂立的合同，或為了遵循法律法規(guī)規(guī)定的義務，應用方不會向境外提供用戶的任何個人信息。

值得關注的是，此前有網(wǎng)友在社交平臺指出，在妙鴨相機最初版本的用戶協(xié)議中，用戶需授權妙鴨相機在全世界（包括元宇宙等虛擬空間）范圍內享有永久的、不可撤銷的、可轉讓的、可轉授權的、免費的和非獨家的許可，使得妙鴨相機可以任何形式、任何媒體或技術（無論現(xiàn)在已知或以后開發(fā)）使用用戶的內容。這一“霸王條款”引發(fā)網(wǎng)友不滿。

對此，妙鴨相機團隊7月20日發(fā)布回應：“已經(jīng)收到用戶關于妙鴨用戶協(xié)議的反饋，原協(xié)議內容有誤，我們第一時間根據(jù)妙鴨的實際情況進行了修改，在這里鄭重地向大家承諾，您所上傳的照片只會用于數(shù)字分身制作，不會提取也不會用于識別和其他用途，且分身制作完成后自動刪除?！?/p>

即便如此，一位不愿具名的安全人士向澎湃新聞記者表示，其在使用妙鴨小程序時，在第一步就已決定不使用該程序。“我在使用中發(fā)現(xiàn)，首先要上傳的圖片要求是五官清晰的正面，這幾乎是證件照的要求水平，社交媒體上，我們都沒有上傳過如此高清無碼的照片；其次，未來，AI技術會越來越強大，你不知道以后一張照片會被利用到什么程度，也不知道對方或好或壞的目的；最后，我對新生的公司做的這種應用，持非常謹慎的態(tài)度，不會上傳自己的高清照片，更何況該小程序此前就有‘霸道協(xié)議’?！?/p>

據(jù)澎湃新聞記者了解，對于互聯(lián)網(wǎng)應用在用戶隱私保護、用戶信息保存方面已有諸多規(guī)定。比如，《中華人民共和國網(wǎng)絡安全法》規(guī)定，網(wǎng)絡產品、服務具有收集用戶信息功能的，其提供者應當向用戶明示并取得同意；涉及用戶個人信息的，還應當遵守本法和有關法律、行政法規(guī)關于個人信息保護的規(guī)定；《中華人民共和國個人信息保護法 (草案)》明確個人信息處理者的合規(guī)管理和保障個人信息安全等義務，要求其按照規(guī)定制定內部管理制度和操作規(guī)程，采取相應的安全技術措施，并指定負責人對其個人信息處理活動進行監(jiān)督；《中華人民共和國消費者權益保護法》規(guī)定， 經(jīng)營者及其工作人員對收集的消費者個人信息必須嚴格保密，不得泄露、出售或者非法向他人提供。經(jīng)營者應當采取技術措施和其他必要措施，確保信息安全，防止消費者個人信息泄露、丟失。

此外，《生成式人工智能服務管理暫行辦法》將于2023年8月15日起施行，該《辦法》既是促進生成式人工智能健康發(fā)展的重要要求，也是防范生成式人工智能服務風險的現(xiàn)實需要，其中明確生成式人工智能服務提供者應當依法開展預訓練、優(yōu)化訓練等訓練數(shù)據(jù)處理活動，使用具有合法來源的數(shù)據(jù)和基礎模型；涉及知識產權的，不得侵害他人依法享有的知識產權；涉及個人信息的，應當取得個人同意或者符合法律、行政法規(guī)規(guī)定的其他情形。

不過，有法律人士向澎湃新聞記者指出：“以上規(guī)定只是作為參考，相關法規(guī)的適用需要根據(jù)具體情況進行判斷?！?/p>