如果說2022年是元宇宙元年，那2023年，絕對(duì)可以被稱為「ChatGPT和AI」元年。

小雷敢說，很多人肯定沒想到，科幻大片里的人工智能這么快就能來到我們身邊。

ChatGPT談詩(shī)歌談人生樣樣都會(huì)，還是工作的得力小幫手，有事它真能解決問題。

(資料圖片)

AI也不再是個(gè)很遠(yuǎn)的概念，比如AI繪畫、合成就玩出很多新花樣，讓人眼花繚亂。

但是，小雷要說但是了嚯。

都說「科技是把雙刃劍」，突然崛起的人工智能，也早就被一些灰色地帶盯上。

今年的AI畫圖，想必小伙伴們都見識(shí)過了吧？ 這以假亂真的程度已經(jīng)越來越高。

小雷發(fā)現(xiàn)有些人竟然選擇利用強(qiáng)大的AI，生成了一些少女性感照片以此牟利。

更離譜的是，他們還真掙到錢了。。。

AI合成少女性感照

事情發(fā)生在Reddit網(wǎng)站，有個(gè)名叫「Claudia」的19歲少女，因?yàn)樽耘恼栈鹌饋砹恕?/p>

她的這條動(dòng)態(tài)簡(jiǎn)單粗暴，附上自己美美的自拍，還有「今天感覺很漂亮」的留言。

女孩一頭烏黑秀發(fā)、一雙會(huì)說話的大眼睛、姣好的面容，加上19歲花一般的年紀(jì)。

Claudia這高顏值，很快就引來了一批老司機(jī)的跟帖留言。

圖源：Reddit

有人直接夸，女孩看起來真漂亮。

圖源：Reddit

也有的從現(xiàn)實(shí)主義角度出發(fā)，表示自己的生活里真的需要這樣的好姑娘。

圖源：Reddit

除了以上瞅著還算正常的發(fā)言，小雷發(fā)現(xiàn)嗷，更多的留言是偏向「少兒不宜」的。

由于留言尺度太大，這些我就不放出來，大伙都是文明人，一定能理解吧。

其實(shí)老司機(jī)們之所以車速這么猛，和Claudia后邊一系列騷操作，可逃脫不了關(guān)系。

圖源：Reddit

喏，只要帖子底下評(píng)論的留言風(fēng)格稍微熱辣一點(diǎn)，Claudia就會(huì)讓人家給她私信。

這還沒完，帖子還能看到Claudia自己發(fā)布的，一些衣著清涼的性感大尺度照片。

結(jié)合留言區(qū)來看，好家伙，合著Claudia是在做生意，賣自個(gè)兒的性感照片……

「花季少女賣性感照」這個(gè)噱頭的確很大，于是乎，不少老司機(jī)早已經(jīng)上了頭。

圖源：Reddit

然而，隨著Claudia在Reddit網(wǎng)站的走紅，性感照背后的真相也慢慢浮出了水面。

原來啊，Claudia并不是一個(gè)真實(shí)存在的用戶，而是一個(gè)由AI整成的美少女形象。

除了她的自拍照以外，那些看似火辣的性感照，同樣也是由AI生成的千層套路。

而使用AI生成Claudia的，其實(shí)是兩個(gè)學(xué)生，目前他倆已經(jīng)靠賣照片掙了100美元。

就是不知道得知真相后的付費(fèi)用戶們，心里會(huì)作何感想啊。。。

圖源：washingtonpost網(wǎng)

AI以假亂真，越來越強(qiáng)

這波付費(fèi)用戶之所以會(huì)上當(dāng)被騙，還是和AI生成能力大大提高，人眼難分辨有關(guān)。

AI生成圖片的原理很容易理解，先生成低分辨圖片，再逐漸豐富細(xì)節(jié)和復(fù)雜程度。

這其中會(huì)利用到深度學(xué)習(xí)模型，AI會(huì)根據(jù)輸入的指令，生成符合語義信息的圖像。

喏，深度學(xué)習(xí)模型越先進(jìn)的話，AI生成的圖像也會(huì)越逼真，達(dá)到以假亂真的程度。

比如，近期的Midjourney和Stable Diffusion，它們AI生成圖片的進(jìn)展就尤其迅速。

前陣子和大伙提過的Midjounrney V5模型，就讓AI「畫人」的本事有了質(zhì)的飛躍。

之前一直都畫不好的手指，現(xiàn)在已經(jīng)畫得惟妙惟肖，基本也看不出什么違和感了。

So，生成Claudia這樣一個(gè)美少女形象，對(duì)于現(xiàn)在的AI來說，壓根就不是什么難事。

圖源：推特

不知道小伙伴們有沒有發(fā)現(xiàn)，實(shí)際上Claudia的圖像還不完美，仔細(xì)看能找出毛病。

眼睛里瞳孔位置、鎖骨形狀和正常人的有區(qū)別，背景光線陰影和人物臉上的打光關(guān)系也不太對(duì)。

只能說在「顏值即是正義」面前，很多老司機(jī)都忽略了以上這些奇怪的地方了。。。

害，這也算花錢買個(gè)教訓(xùn)吧。

圖源：Reddit

除了讓AI生成美少女性感照，之前提到過，AI甚至還能整出「一鍵脫衣」的離譜操作。

經(jīng)過發(fā)展后的AI，靠著照片中人物的臉部和四肢細(xì)節(jié)，就能精準(zhǔn)還原身體膚色，生成本不存在的「脫衣照片」。

關(guān)鍵是這算法真的強(qiáng)，身體和環(huán)境邊緣等細(xì)節(jié)處理非常自然，不細(xì)看根本發(fā)現(xiàn)不了問題。

同樣的，這些「脫衣照片」會(huì)被不法分子拿來面向特殊癖好的人群銷售，以此賺取不義之財(cái)。

當(dāng)高速發(fā)展的AI撞上「擦邊」和「色情」，AI貌似就從幫人的工具變成了傷人的武器。

圖源：網(wǎng)絡(luò)

我們?cè)撊绾螌?duì)待AI？

就像很多新型技術(shù)一樣，發(fā)展到2023年的AI，已經(jīng)顯示出具備改變很多行業(yè)方向的潛質(zhì)。

小雷經(jīng)常聽到，有消息又說AI會(huì)替代人工如何如何，這些其實(shí)都是后話，如今AI行業(yè)該怎樣繼續(xù)發(fā)展才是值得思考的問題。

首先咱們應(yīng)該能達(dá)成共識(shí)，AI在現(xiàn)階段乃至未來還是得繼續(xù)發(fā)展的，總不能因噎廢食。

一方面，AI能夠幫助我們更好地學(xué)習(xí)、工作和生活，比如經(jīng)常需要找資料的小雷，用AI加持的搜索引擎查東西，就是比普通搜索引擎快準(zhǔn)狠。

另一方面，AI在不懷好意的人手里，也容易滋生諸如美少女性感照騙局、一鍵脫衣侵犯他人權(quán)益等的事情。

AI就像一把雙刃劍，既能造福人類，也會(huì)帶來一系列問題，重點(diǎn)在于對(duì)「度」的把控。

小雷注意到嚯，目前國(guó)家互聯(lián)網(wǎng)信息辦公室已經(jīng)出手。

發(fā)布了關(guān)于《生成式人工智能服務(wù)管理辦法（征求意見稿）》公開征求意見的通知。

大概內(nèi)容說的是：

首先，國(guó)家是支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國(guó)際合作，鼓勵(lì)優(yōu)先采用安全可信的軟件、工具、計(jì)算和數(shù)據(jù)資源；其次，提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求，尊重社會(huì)公德、公序良俗，符合一定要求；接著，提供AI服務(wù)需要先報(bào)備，使用AI服務(wù)需要先實(shí)名，生成違規(guī)內(nèi)容用戶和平臺(tái)都會(huì)有相應(yīng)處罰。最后，還有一些摳細(xì)節(jié)的其他規(guī)定。

圖源：公眾號(hào)@網(wǎng)信中國(guó)

這份管理方法還在征求意見階段，有興趣的小伙伴可以反饋一波自己的意見。

總的來說，其實(shí)這份管理方法（征求意見稿），考慮得還是相對(duì)很全面的。

既有AI內(nèi)容提供商和使用者的監(jiān)管，又有使用要求和生成內(nèi)容的管理，還不錯(cuò)。

小雷也希望，其他地區(qū)能夠抓緊上線AI相關(guān)管理?xiàng)l例，讓AI早日回歸發(fā)展正規(guī)吧。

封面圖源：Reddit

關(guān)鍵詞：