一句话总结
微软推出AI文本修正服务Correction，旨在自动修正AI生成的错误文本。
核心要点
- Correction通过比对文本与真实数据源来修正错误。
- 该服务可与任何文本生成AI模型一起使用，包括Meta的Llama和OpenAI的GPT-4o。
- 专家警告，这种修正方法并未解决AI“幻觉”的根本原因。
新闻简报
微软近日推出了名为Correction的服务，旨在自动修正AI生成的文本中的错误信息。该服务首先标记可能存在错误的文字，然后通过与真实数据源（如财报电话会议记录）进行比对来核实。Correction作为Azure AI Content Safety API的一部分，可以与任何文本生成AI模型一起使用。微软表示，该服务利用小型和大型语言模型来确保输出内容与基础文档一致，尤其在医学等领域，开发者对回答的准确性要求极高。尽管谷歌在今年夏天也推出了类似的功能，允许客户使用第三方数据、自有数据集或谷歌搜索来“锚定”模型，但专家指出，这些方法并未解决AI“幻觉”的根本问题。AI模型之所以会产生“幻觉”，是因为它们并不真正“知道”任何信息，而是基于训练时的无数例子预测接下来可能出现的单词。微软的解决方案是一对类似编辑的元模型，旨在突出并重写“幻觉”。一个分类器模型寻找可能的错误、编造或不相关的AI生成文本片段，如果检测到“幻觉”，分类器会引入第二个模型，即语言模型，尝试根据指定的“基础文档”来修正“幻觉”。专家对此表示怀疑，认为这可能会减少一些问题，但也可能产生新的问题。此外，微软将Correction作为一项免费功能提供，但用于检测“幻觉”的“基础性检测”在每月5000条“文本记录”之后将收费。尽管微软在第二季度投入了近190亿美元的资本支出和设备，主要用于AI，但公司尚未从AI中获得显著收入。
信息来源：techcrunch