近日，一段美國歌手泰勒·斯威夫特“說”中文的短視頻在網(wǎng)絡(luò)刷屏，引發(fā)熱議。視頻中，泰勒·斯威夫特“說”著流利中文，音色和講母語時(shí)類似，甚至連口型都能對上。與此同時(shí)，郭德綱“講”英文相聲的視頻也引起人們關(guān)注，大家紛紛感嘆AI（人工智能）真是強(qiáng)大。

　　對于這樣的視頻，人們的第一反應(yīng)恐怕是一愣，然后用常識就能判斷出它的真?zhèn)巍Ｗ鞒鲞@種鑒別并不難，難的是當(dāng)“被AI”的不是明星而是身邊的親朋好友，或者明星說的是本國語言時(shí)，公眾是否還具有這種鑒別力？以AI技術(shù)的發(fā)展速度看，大概不能對此“打包票”。

　　就此類生成式AI的技術(shù)原理而言，首先是把相關(guān)數(shù)據(jù)上傳AI模型，比如人臉的面部特征、聲音的音長音高等，再將使用者需求輸入模型由系統(tǒng)運(yùn)算，最后輸出結(jié)果。如此一來，就能實(shí)現(xiàn)趙本山說英文或是泰勒·斯威夫特說中文的效果。

　　這種生成式AI原來有一些技術(shù)不完善的地方，比如人體晃動時(shí)發(fā)生畫面掉幀、AI生成部分與本人面部的邊緣處有明顯拼接痕跡等，但現(xiàn)在網(wǎng)上比較火的那幾個(gè)視頻卻似乎已經(jīng)解決了這些問題。通過這幾段視頻，明顯可以看到技術(shù)又進(jìn)步了。

　　總之，AI正在朝著越來越智能的方向演進(jìn)。不如想象一下，如果ChatGPT聊天機(jī)器人變得更加智能，響應(yīng)速度更快，再把它與這項(xiàng)AI換臉技術(shù)相結(jié)合，是否可以形成與“泰勒·斯威夫特”自由對話的可能。這種技術(shù)想象的另一面，是信息安全風(fēng)險(xiǎn)，關(guān)乎個(gè)人的各項(xiàng)隱私權(quán)利。

　　在“被AI”者的一端，涉及個(gè)人肖像權(quán)、聲音權(quán)。從我國民法典看，規(guī)定了合理使用行為可以不經(jīng)肖像權(quán)人許可，但合理使用的行為要求、范圍要求都有限制。具體來講，民法典第一千零二十條規(guī)定，為個(gè)人學(xué)習(xí)、藝術(shù)欣賞、課堂教學(xué)或者科學(xué)研究，可以在必要范圍內(nèi)使用肖像權(quán)人已經(jīng)公開的肖像。如今，借助AI應(yīng)用生成相關(guān)視頻是否屬于合理使用卻有爭議——因?yàn)樾は駲?quán)人的肖像雖然是公開的，但使用者的目的并非是法定目的的任何一種，且因其向全網(wǎng)傳播，顯然也超出了民法典規(guī)定的“必要范圍”。所以，市場上各式各樣的生成式AI，其實(shí)帶有天然的侵權(quán)風(fēng)險(xiǎn)。

　　站在不特定的公眾一端，則是受騙的風(fēng)險(xiǎn)。這既包括利用生成式AI詐騙錢財(cái)，也包括利用生成式AI制作虛假代言廣告、進(jìn)行違法犯罪活動。前不久，影星斯嘉麗·約翰遜還對一家AI應(yīng)用開發(fā)商提起訴訟，事由是開發(fā)商利用其拍攝的電影花絮制作廣告。所以，盡管大多數(shù)的生成式AI還處在“玩玩而已”的范疇，卻不可忽視它已經(jīng)具備了某些不太光彩的應(yīng)用場景。特別是，我國已經(jīng)出現(xiàn)了有人因AI換臉被詐騙、有人利用AI換臉從事淫穢色情活動的事例。對于監(jiān)管部門而言，一方面，要對違法犯罪行為嚴(yán)厲打擊，另一方面，尤其有必要要求開發(fā)商把數(shù)字水印作為必要項(xiàng)，并且這個(gè)水印不能被放在視頻的邊邊角角，而應(yīng)該與畫面主體有重疊，以此防備生成式AI被濫用。

　　技術(shù)本身并無價(jià)值觀，但操縱技術(shù)的人有。在剛剛結(jié)束的全球首屆AI安全峰會上，包括中國、美國、英國在內(nèi)的28個(gè)國家及歐盟共同簽署了《布萊奇利宣言》，呼吁以安全、以人為本、值得信賴和負(fù)責(zé)任的方式設(shè)計(jì)、開發(fā)、部署和使用AI——“負(fù)責(zé)任”即是遵守法律、合乎道德，它應(yīng)當(dāng)成為業(yè)內(nèi)的共識。