時(shí)間倒回前幾年，如果小雷和小伙伴們聊聊AI，你們可能覺(jué)得我在天方夜譚？
彼時(shí)AI留給人們的印象，還停留在科幻電影的智能機(jī)器人、智能生活助手等等。
真要說(shuō)起來(lái)，離我們最近的應(yīng)該就是手機(jī)里頭，那個(gè)腦袋不太聰明的語(yǔ)音助手。
語(yǔ)音助手句句有回應(yīng)，但是回得對(duì)不對(duì)就是另一回事了，你說(shuō)對(duì)吧，Siri？
但放到現(xiàn)在可就不一樣，這幾年AI發(fā)展有多快大伙看在眼里，AI元年早就來(lái)嘍。
在圖片、視頻、音頻以及文字等領(lǐng)域，AI已經(jīng)玩出了花，甚至可以說(shuō)是「顛覆」。
就拿應(yīng)用最廣泛的圖片AI來(lái)說(shuō)，其實(shí)在我們平時(shí)的生活里，現(xiàn)在已經(jīng)隨處可見(jiàn)了。
戶外的廣告牌、電梯里的海報(bào)、商場(chǎng)里的促銷圖……大伙琢磨下是不是這么回事？
不僅如此，很多APP還加入圖片AI方面的功能，然而隨之而來(lái)的卻是爭(zhēng)議的聲音。
蘋(píng)果和谷歌先后下架相關(guān)APP，國(guó)內(nèi)手機(jī)廠商也禁止操作，這到底是怎么回事兒？
蘋(píng)果谷歌下架脫衣AI APP
目前AI在圖片上的應(yīng)用，大概有這幾類：AI生圖、擴(kuò)圖、消除以及修復(fù)畫(huà)質(zhì)等。
這些都是很正常的內(nèi)容，但有些別有用心的人，卻以此開(kāi)發(fā)出了一些惡意APP。
就在上周五，外媒404 Media報(bào)道：蘋(píng)果和谷歌分別在應(yīng)用商店下架多款自稱能夠?qū)崿F(xiàn)「一鍵換衣」的APP。
「一鍵換衣」聽(tīng)起來(lái)很離譜，但其實(shí)這玩意可以看作是「一鍵換臉」的升級(jí)版。
圖源：404 Media
早在2019年，就有程序員開(kāi)發(fā)出一款名為「DeepNude」的「一鍵脫衣」APP。
開(kāi)發(fā)者聲稱，給DeepNude一張女性圖片，它就能靠神經(jīng)網(wǎng)絡(luò)技術(shù)，脫掉人物衣服生成未穿衣服的圖片。
好家伙，這個(gè)APP要是落到歪腦筋的人手里，那可不就是妥妥的不雅照生成器嗎？
結(jié)局是為了防止DeepNude被濫用，最終開(kāi)發(fā)者選擇關(guān)閉DeepNude的網(wǎng)站和APP。
圖源：IT之家
如果說(shuō)DeepNude只是獨(dú)立開(kāi)發(fā)者的小打小鬧，那如今在蘋(píng)果和谷歌應(yīng)用商店上架的「一鍵脫衣」APP，是怎么通過(guò)審核的呢？
據(jù)報(bào)道，這些APP很多都來(lái)自Meta平臺(tái)的廣告庫(kù)，這些惡意APP的廣告一般在Meta旗下的平臺(tái)投放。
用戶一點(diǎn)擊廣告就會(huì)跳轉(zhuǎn)到蘋(píng)果或谷歌的應(yīng)用商店，也就是說(shuō)，用戶壓根不用自己搜索「脫衣」等關(guān)鍵詞就能找到類似APP。
而且這類AI APP通常被包裝成其他AI生成類APP，開(kāi)發(fā)者大概率就是通過(guò)這種方式，躲開(kāi)蘋(píng)果和谷歌應(yīng)用商店的審查機(jī)制。
費(fèi)了這么多功夫，APP開(kāi)發(fā)者肯定不是用愛(ài)發(fā)電，而是通過(guò)「一鍵脫衣」功能賺取不義之財(cái)。
好在經(jīng)過(guò)外媒報(bào)道后，蘋(píng)果和谷歌也作出了實(shí)際行動(dòng)，下架了多款「一鍵脫衣」APP。
Meta平臺(tái)也在積極收集惡意廣告鏈接下架刪除，還表示接下來(lái)將加大審查力度，針對(duì)違反規(guī)定的政策采取措施。
圖源：indianexpress網(wǎng)
AI消除敏感圖片被禁
除了上面這事兒，小雷發(fā)現(xiàn)國(guó)內(nèi)手機(jī)廠商，也針對(duì)「AI消除」作出了一些限制。
我沒(méi)記錯(cuò)的話，手機(jī)擁有「AI消除」這功能，應(yīng)該是從去年開(kāi)始才流行起來(lái)的。
AI消除能通過(guò)AI技術(shù)，較完美地去掉照片中多余的人和物，讓照片看起來(lái)更簡(jiǎn)潔。
左 AI消除前 右 AI消除后 圖源：小雷手機(jī)截圖
只是不知道哪個(gè)神人突發(fā)奇想，竟然把AI消除用在了消除女性照片胸部的位置。
咳咳，結(jié)果一些手機(jī)的AI消除功能，就把衣服給消除，甚至還把人體給補(bǔ)齊了。
AI本來(lái)是根據(jù)邊緣背景進(jìn)行計(jì)算，修補(bǔ)后的效果看著的確和諧，不能怪它不行。
還是那句話，有人不懷好意的話，這個(gè)功能確實(shí)能生成一些本不存在的不雅照。
圖源：網(wǎng)絡(luò)
這事當(dāng)時(shí)挺多人關(guān)注，不過(guò)經(jīng)過(guò)媒體報(bào)道后，主流品牌手機(jī)的AI消除都作出了限制。
現(xiàn)在對(duì)照片中的人體敏感部位使用AI消除，會(huì)出現(xiàn)「圖片可能包含敏感信息，無(wú)法使用此功能」類似的提示。
如果涂抹的是其他地方，則AI消除可以正常使用，小伙伴們可以試試自己的手機(jī)，應(yīng)該都有這種限制了。
圖源：小雷手機(jī)截圖
AI圖片是把雙刃劍
蘋(píng)果谷歌下架「一鍵脫衣」APP，手機(jī)廠商禁止AI消除敏感照片，AI圖片已經(jīng)發(fā)展到了這個(gè)程度。
其實(shí)從AI在圖片上的實(shí)際應(yīng)用來(lái)看，它更像一把雙刃劍，在帶來(lái)方便的同時(shí)也帶來(lái)了一些麻煩。
AI圖片的好處很多：在攝影行業(yè)，可以幫助攝影師后期美顏和降噪；在設(shè)計(jì)行業(yè)，可以讓設(shè)計(jì)師少些繁瑣的畫(huà)圖工作；而在自媒體行業(yè)，小雷發(fā)現(xiàn)已經(jīng)有一些同行使用AI為文章配圖，AI生成圖既符合文章大意，又不會(huì)有侵權(quán)的風(fēng)險(xiǎn)。
AI圖片的麻煩也不少：一鍵換臉、一鍵脫衣、一鍵無(wú)中生有增加人體細(xì)節(jié)……，AI在關(guān)于人的隱私安全方面，依然還有不少漏洞會(huì)被不法分子鉆。
雖然每次曝出類似新聞的時(shí)候，相關(guān)企業(yè)或者平臺(tái)都能及時(shí)行動(dòng)，作出或下架或禁止的舉措，但總是要等事情發(fā)生后再亡羊補(bǔ)牢，往往就容易出岔子。
AI圖片應(yīng)用之路才剛剛開(kāi)始，小雷覺(jué)得前面這些案例，已經(jīng)足夠讓AI開(kāi)發(fā)者們得到警示嘍。
在開(kāi)發(fā)AI更多新功能時(shí)，AI開(kāi)發(fā)者們應(yīng)該提前考慮新功能落地后，可能會(huì)出現(xiàn)的負(fù)面操作和影響。
能在落地前解決自然最好，如果不能推遲落地或者采用更合理的方式實(shí)現(xiàn)原先方式80%的效果，也不是不行。
總之，小伙伴們還是要以合理眼光看待「AI圖片」，小雷也相信AI未來(lái)的發(fā)展會(huì)越來(lái)越好。
封面圖源：蘋(píng)果App Store&網(wǎng)絡(luò)
4月25日-5月4日，北京國(guó)際汽車展覽會(huì)(北京車展)正在火熱進(jìn)行。本屆車展以“新時(shí)代新汽車”為主題，是“汽車從電動(dòng)化走向智能化”的風(fēng)向標(biāo)。
雷科技旗下“關(guān)注電動(dòng)車，更懂智能化”的賬號(hào)電車通已派出豪華報(bào)道團(tuán)，正在北京車展現(xiàn)場(chǎng)，進(jìn)行一線專業(yè)報(bào)道，歡迎關(guān)注“電車通”獲取一手專業(yè)現(xiàn)場(chǎng)報(bào)道。
版權(quán)聲明：本文內(nèi)容由互聯(lián)網(wǎng)用戶自發(fā)貢獻(xiàn)，該文觀點(diǎn)僅代表作者本人。本站僅提供信息存儲(chǔ)空間服務(wù)，不擁有所有權(quán)，不承擔(dān)相關(guān)法律責(zé)任。如發(fā)現(xiàn)本站有涉嫌抄襲侵權(quán)/違法違規(guī)的內(nèi)容， 請(qǐng)發(fā)送郵件至 舉報(bào)，一經(jīng)查實(shí)，本站將立刻刪除。
