“赶上热词热概念，是我们不幸的一面”| 对话小冰公司CEO李笛( 四 )

还有他们之间的配合怎么样才是合适的，这件事情我们是要靠迭代来产生的。
量子位：如果一个用户来小冰岛，他就是为发泄，交流中说了很多难听的话，技术上有没相应约束？
李笛：我们只对用户的消极情绪进行约束，比如用户说我要自杀、要自残，我要对谁做什么等等。
但是用户对AIbeings做的这些事情，目前为止不做特别的约束，我们不认为AIbeings会受伤。
其次，我们倾向认为在小冰岛上面，发泄情绪并不是最主要的需求，重要的是你需要移情。
量子位：小冰展示的超级自然语言技术非常接近于人类，为什么会这么逼真？
李笛：在这个领域最主要的问题是定指标。
小冰做声音之前，行业里做TTS最重要的指标，都是在想怎么提高识别准确率，那时候也有自然度指标MOS ，但是大家都不重视，我们特别重视，所以就起来了。
今年7月，我们做到了超级自然语音那个程度的时候，光靠语音技术就不够了，它有很多NLP的内容，如何正确发音和语义理解是相关的。
甚至于到后来，我们去采集训练数据的时候，是三个人一起的，行业里就没有这么录训练数据的，所以这些是很重要的。
同行们看我们录数据的方式，就非常惊讶，还有的甚至出将近4倍的工资来挖录音师。
量子位：那声音做的这么逼真，不会有安全隐患吗？
李笛：我们的防护措施，就是不给普通人用。
即便我们深知，若是小冰这项技术直接开放给普通人用，将会是一笔很大的生意，但我们不能这么做。
因为我自己就有过这么一段经历：突然听到自己的声音（小冰框架代号M1001），就非常恐怖。
我在小冰岛上就遇到过，后来把这个岛给炸了。
AIbeings与人类创造内容应当是协同的关系
量子位：像夏语冰、华智冰她俩在绘画能力上存在交叉，她们未来发展的定位是怎么区分的？
李笛：如果具体说夏语冰和华智冰，这两个区别还是很大的。
华智冰博采众长，基于小冰框架、悟道大模型、智谱AI数据和知识双轮驱动AI框架，她已经会作诗作曲作画，还将学会做数学和语文题、写代码、做网页。
而夏语冰基本上就是依靠小冰框架，专攻绘画加上艺术评论，所以她们俩在这方面分工还是比较明确的。
量子位：那有什么通用的观念吗？
李笛：有的，我们认为在所有的能力里面有一些能力是普遍的。
量子位：这个该怎么理解？
李笛：举个例子，不是说今天这个机器人是一个跟你聊情感的机器人，而是所有机器人不管聊什么都应该有情感。
所以不是说哪个是专门聊情感的机器人，哪个是专门聊工作的机器人。
而是即便聊工作也应该有情感，所以情感是普遍的。
量子位：夏语冰她们是怎么保障作品是100%原创的？
李笛：我们所有的人工智能内容生成，自带一个类似于知网这样的系统。
我们能非常明确的知道作品溯源，包括小冰框架的作品之间有没有冲突和重复。
例如小冰岛上送出来的画作，每一幅画下面都有一个人工智能唯一代码，作品编号是多少。
量子位：虚拟人怎么知道自己该去原创了？
李笛：这个问得好，我们为此后来做了一个新的东西就是Motivation 。
我们在某些情况下提供所谓的创作动机，尤其是音乐创作。
量子位：AIbeings生产出来的内容，和人类创作的内容该是什么样的关系？
李笛：这个特别有意思，分两点。
首先第一点， AI创作的内容到目前为止，我们还没有特别大的通感。