跟上 人工智能这样快速发展的行业 是一项艰巨的任务。因此，在人工智能可以为您做到这一点之前，这里是机器学习领域最新故事的方便综述，以及我们自己没有涵盖的著名研究和实验。
顺便说一句，TechCrunch 计划很快推出人工智能时事通讯。敬请关注。与此同时，我们正在将半定期人工智能专栏的节奏从以前每月两次（左右）提高到每周一次——所以请留意更多版本。
本周在人工智能方面，OpenAI 透露，它正在探索如何“负责任地”生成人工智能色情内容。是的——你没听错。OpenAI 表示，OpenAI 在一份旨在揭开帷幕并收集有关人工智能指令反馈的文件中宣布，新的 NSFW 政策旨在引发一场讨论，讨论该公司如何以及在何处允许其人工智能产品中出现露骨的图像和文本。
OpenAI 产品团队成员 Joanne Jang告诉 NPR： “我们希望确保人们在不违反法律或其他人权利的情况下拥有最大程度的控制权。” “在一些创意案例中，涉及性或裸体的内容对我们的用户来说很重要。”
这并不是 OpenAI 第一次表示愿意涉足有争议的领域。今年早些时候，该公司首席技术官 Mira Murati告诉《华尔街日报》，她“不确定”OpenAI 最终是否会允许其视频生成工具 Sora 用于创建成人内容。
那么该怎么办呢？
未来，OpenAI 将打开人工智能生成色情内容的大门，结果一切……都很好。我认为张说成人艺术表达有合法的形式——可以在人工智能工具的帮助下创建的表达——这句话并没有错。
但我不确定我们是否可以相信 OpenAI（或任何生成式人工智能供应商）能够把事情做好。
其一，请考虑创作者的权利角度。 OpenAI 的模型已经接受了大量公共网络内容的训练，其中一些无疑是色情内容。但 OpenAI 尚未对所有这些内容进行许可，甚至直到最近才允许创作者选择退出培训（即便如此，也仅允许某些形式的培训）。
靠成人内容谋生是很困难的，如果 OpenAI 将人工智能生成的色情内容纳入主流，创作者将面临更激烈的竞争——这种竞争建立在这些创作者的作品之上，而不是无缘无故的。
我想到的另一个问题是当前保障措施的可靠性。 OpenAI 和竞争对手多年来一直在完善他们的过滤和审核工具。但用户不断发现变通办法，使他们能够滥用公司的人工智能模型、应用程序和平台。
就在今年一月，在用户找到了创建泰勒·斯威夫特裸体图像的方法后，微软被迫对其利用 OpenAI 模型的 Designer 图像创建工具进行更改。在文本生成方面，找到建立在所谓“安全”模型之上的聊天机器人是微不足道的，例如 Anthropic 的 Claude 3，它很容易吐出色情内容。
人工智能已经创造了一种新形式的性虐待。小学生和高中生正在使用人工智能应用程序在未经同学同意的情况下“删除”同学的照片； 2021 年在英国、新西兰和澳大利亚进行的一项民意调查发现，14% 的 16 岁至 64 岁受访者曾成为深度伪造图像的受害者。
美国和其他地方的新法律旨在打击这一现象。但司法系统——一个已经在努力根除大多数性犯罪的司法系统——能否监管像人工智能这样快速发展的行业，尚无定论。
坦率地说，很难想象 OpenAI 可能会采用一种不充满风险的方法来处理人工智能生成的色情内容。也许 OpenAI 会再次重新考虑其立场。或者也许——尽管困难重重——它会找到更好的方法。无论案件最终如何，我们似乎迟早都会知道。
以下是过去几天中其他一些值得注意的人工智能故事：
- 苹果的人工智能计划： 苹果首席执行官蒂姆·库克在上周与投资者举行的财报电话会议上透露了一些有关该公司推进人工智能计划的花絮。莎拉有完整的故事。
- Enterprise GenAI： Dropbox 和 Figma 的首席执行官（分别是 Drew Houston 和 Dylan Field）投资了 Lamini，这是一家构建生成式 AI 技术以及针对企业组织的生成式 AI 托管平台的初创公司。
- 人工智能客户服务：爱彼迎正在推出一项新功能，允许房东选择人工智能支持的建议来回答客人的问题，例如向客人发送住宿的结账指南。
- 微软限制人工智能的使用：微软重申禁止美国警察部门使用生成式人工智能进行面部识别。它还禁止全球执法部门在随身摄像头和行车记录仪上应用面部识别技术。
- 云资金：随着生成式人工智能的繁荣推动了对训练和运行模型的低成本硬件的需求，CoreWeave 等替代云提供商正在筹集数亿美元。
- RAG 有其局限性： 对于希望将生成式人工智能集成到其运营中的企业来说，幻觉是一个大问题。一些供应商声称他们可以使用一种称为 RAG 的技术来消除它们。但这些说法都被严重夸大了，而你的说法却是真实的。
- Vogels 的会议总结器： Amazon 的 CTO Werner Vogels 开源了一款名为 Distill 的会议总结器应用程序。正如您所料，它严重依赖亚马逊的产品和服务。