人工智能还没有造福人类，就开始搞诈骗了？

赵玉田

人工智能还没有造福人类，就开始搞诈骗了？ [复制链接]

 

据微博网友@少年伯爵 分享

 

一个真实案例——同事收到好友留言说要借钱，于是同事打过去电话询问，电话拨通后被挂掉，然后好友那边回过来电话，说你是不是以为是骗子冒充我向你借钱？那真的是我，现在买房急需用钱。

于是同事准备周转一下资金给其转账。准备好后，想起来对方还没说需要转多少，于是再次打电话确认，电话却没人接。

情急之下就打电话给好友丈夫，没想到对方接到电话后却说没有借钱这回事， 然后好友也从电话中说她就在旁边，没有接到过她电话， 也没向她借钱。

这个诈骗过程很复杂，手段也很先进，骗子用到了盗号、伪基站、呼叫转移、声音模拟等各种手段，尤其是人工智能参与进来的声音模拟，完全以假乱真，让人受骗之后还确信无疑，细思恐极。

这个声音模拟诈骗技术可能来源于2019年的谷歌ai算法，只需5秒钟音源就可以模拟当事人声音，当时谷歌知道这种技术是双刃剑，所以没有敢开源公布，但是没想到某些人通过论文还原出了这项技术，并且在2019年在国内做出了中文版软件……

而2023年1月份，微软发布了VALL-E论文，它是一种TTS （text to speech synthesis）神经编解码语言模型，具有强大的上下文学习能力……

最细思极恐的是——VALL-E还可以模仿样本音频的“声学环境”——如果样本来自电话，音频输出将模拟电话的合成输出中的声学和频率特性，让它听起来也像一个电话。

所以，由于担忧VALL-E技术可能会被拿去“骗人”，微软VALL-E代码也没有开源……但我估摸着，黑市上很快也会搞出还原版了……

请大家参阅，注意钱财安全。

 

 

okhxyyo

呀，细思极恐。。。。。。

吾妻思萌

力量并不可怕，可怕的是它的主人

xutong

想到了神探伽利略电视里的利用tts伪装死亡时间

zhangdaoyu

以后谁借钱都不借，见面时说以为是遇到诈骗了

zhangpo

这木牛掰的么，可惜没用到正途上，正途好像也没啥大用途。

秦天qintian0303

技术没有问题，有问题的是人             

qwqwqw2088

哲学家们说任何发展的潮流都是双刃剑

lugl4313820

不想点小便宜，就不会吃大亏的，天上也不掉那个什么来着。。。

wangerxian

骗子用的技术都比较高级，尤其是欺骗我们这些年轻人的骗子。

fanwei326

更可怕的是有软件可以做出假视频，与真人表现一模一样。

starcat123

以前还可以通过声音辨别是不是本人，现在连声音也靠不住了，恐怖恐怖。

lanhua

“以前还可以通过声音辨别是不是本人，现在连声音也靠不住了，恐怖恐怖。”

视频也可做假，真是恐怖！