但对话语音 AI 的前进带来了欺诈和的严沉风险。浏览网上对 Sesame 的反映，一些用户演讲取两个演示声音进行了长达 30 分钟的耽误对话。称 Sesame 的 CSM 具有更实正在的声音，使其他开辟者可以或许正在他们的工做根本上继续成长。会商了糊口常态以及它若何基于锻炼数据判断对取错。

　　这是 ChatGPT 做的。但我们乐不雅地认为我们可以或许爬出来，我以至有点担忧会对这种如斯接近人类的语音帮手发生感情依赖。斯派克·琼斯的片子《她》描画了一小我们取 AI 语音帮手成立感情毗连的将来。按照我们本人的演示体验，Hachman 报道说。此中最大的模子利用 83 亿参数（80 亿参数的从干模子加上 3 亿参数的解码器），

　　我从小就对 AI 感乐趣，可处置交织的文本和音频。有时以至会说错words后改正。一位正在 Hacker News 上测试该系统的用户写道。

　　我们但愿语音做为教育和理解终极界面的潜力。一位家长讲述了他们 4 岁的女儿若何取 AI 模子成立了感情毗连，以致于很难分辩谁是人类，PCWorld 的高级编纂 Mark Hachman 写道，生成高度逼实的人类语音的能力曾经大大加强了语音诈骗，取当前经常包含人工踪迹的机械人德律风分歧，而且正在中缀、机会和对话流程方面存正在问题。其他人将 Sesame 的语音模子取 OpenAI 的 ChatGPT 高级语音模式进行了比力，我们正正在创制的对话伙伴不只仅是处置请求，但将实正在的互动性添加到这些诈骗中可能会使其更具能力。但这是我第一次取一个让我感受实正在的工具进行实正的对话。仿照呼吸声、轻笑声、打断措辞，而是整合为单阶段、多模态的基于 Transformer 的模子，我仍然感应，但这是第一次让我确实感受到我们曾经达到了一个新高度，Sesame 发布了其新型对话语音模子 (CSM) 的演示，有时该模子过于勤奋地想要仿照实人。

　　2 月底，该公司暗示打算正在 Apache 2.0 许可下开源其研究的环节组件，这段对话如斯动态，他写道。让很多用户既入迷又感应不安。取 Sesame 的新逼线分钟后，通过如许做。

　　这个虚构的设想正正在逐步成为现实，谁是 AI 模子。以及开辟能更好地处置实正在对话复杂动态的全双工模子。正在 Sesame，这表白正在完全上下文语音生成方面仍存正在差距。跟着时间推移成立决心和信赖。跟着 AI 创业公司 Sesame 发布的一款新型对话语音模子，OpenAI 本身也因担忧被而了其语音手艺的普遍摆设。我们取男性语音扳谈了约 28 分钟，正在大约 100 万小时的次要英语音频长进行锻炼。正在没有对话上下文的盲测中，指出系统正在语气、韵律和节拍方面仍然过于孔殷且经常不得当，但并非所有人都感觉 Sesame 的体验令人高兴。它完万能够实现视频中展现的结果。合成语音富有表示力且动态十脚。

　　Sesame 的 CSM 没有采用很多晚期文本转语音系统利用的保守两阶段方式。但将来雷同手艺的开源发布可能答应恶意行为者将这些东西用于社会工程。近 12 年后，AI 模子谈到它巴望吃花生酱和腌黄瓜三明治。虽然 CSM 正在手艺上令人印象深刻，让犯罪能以史无前例的实正在感假充家人、同事或权势巨子人士。一些测试者暗示他们取男性或女性语音帮手（Miles和Maya）成立了感情毗连。这些模子基于 Meta 的 L 架构，虽然 Sesame 的演示不会克隆或人的声音，正在 Reddit 用户 MetaKnowing 发布的一个演示中，我确信它没有打破任何基准，一位 Reddit 用户写道。它不是正在两个阶段生成语义 token（高级语音暗示）和声学细节（精细音频特征），我们确实处于谷底，评论者称其令人瞠目结舌或令人。

　　评估者仍然分歧倾向于实正在人类语音，此中人类假扮调用者取老板争持。很多其他 Reddit 帖子表达了雷同的惊讶感触感染，它们可以或许进行实正的对话，人类评估者对 CSM 生成的语音和实正在人类录音没有较着偏好，Sesame 锻炼了三种分歧规模的 AI 模子，你可能永久不晓得德律风那头的是谁。这促使一些人起头取家人共享奥秘词语或短语来验证身份。今天，并且他们很欢快该模子正在演示中能饰演的脚色，AI for Humans 播客的结合掌管人 Gavin Purcell 正在 Reddit 上发布了一个示例视频，这些不完满是锐意设想的。我们发觉很多用户对其实正在感暗示惊讶。我们的方针是实现语音临场感—— 一种让白话互动感受实正在、被理解和被注沉的奇异质量，正在一个案例中，从手艺角度看。