新闻简报
人工智能公司Anthropic调整政策，允许未成年人在特定条件下使用其生成式AI系统。根据Anthropic官方博客的声明，青少年和儿童现在可以利用由Anthropic AI模型支持的第三方应用程序，前提是这些应用具备相应的安全功能，并向用户明确其AI技术的使用。Anthropic还为开发面向未成年人的AI应用提出了安全措施，包括年龄验证、内容审核和教育资源提供。此外，开发人员必须遵守儿童安全和数据隐私法规，如美国的COPPA。Anthropic计划定期审核应用合规性，并采取措施对不合规者进行处罚。新政策的推出正值儿童和青少年越来越多地使用生成式AI工具，同时竞争对手如谷歌和OpenAI也在探索更多儿童用例。尽管如此，对生成式AI在教育中的使用仍存在争议，联合国教科文组织去年年底呼吁对生成式AI在教育中的使用进行规范。
核心要点
- 政策调整：Anthropic宣布改变其政策，允许未成年人在满足特定条件的情况下使用其AI系统。
- 安全要求：允许未成年人使用的条件包括应用开发者必须实现年龄验证、内容审核和提供AI使用教育资源等安全功能。
- 合规性监管：Anthropic将定期检查应用的合规性，并要求开发者遵守儿童安全和数据隐私法规，如COPPA。
- 技术措施：公司可能提供专为未成年人定制的技术措施，如“儿童安全系统提示”。
- 市场趋势：随着儿童和青少年越来越多地使用AI工具，竞争对手如谷歌和OpenAI也在探索儿童用例。
- 教育应用：AI工具被认为可以在考试准备和辅导支持等方面为年轻用户带来好处。
- 社会关注：有关生成式AI在教育中使用的指南和规范呼声日增，教科文组织敦促政府介入监管。