西班牙出台法案“严打”AI乱象，未标注生成内容企业最高罚3500万欧元

据路透社3月12日消息，西班牙政府当地时间周二通过一项法案，要求企业使用AI生成内容时必须明确标注，否则将面临最高3500万欧元（约2.76亿元人民币）或全球年营业额7%的罚款。

西班牙数字化转型部长奥斯卡・洛佩斯表示，该法案借鉴了欧盟《人工智能法案》的相关规定，对被视为高风险的AI系统施加严格的透明度要求。这一举措旨在遏制“深度伪造”现象，防范AI滥用带来的风险。洛佩斯指出，人工智能是强大工具，既能改善生活，也可能用于散布虚假信息。“深度伪造”技术可利用AI算法生成或篡改视频、照片或音频，使其看似真实，可能误导公众或进行欺诈，任何人都可能成为此类攻击的受害者。

除了针对“深度伪造”，该法案还禁止AI领域的其他滥用行为。例如，禁止利用“潜意识技术”操控脆弱人群，像AI聊天机器人怂恿赌徒下注，或智能玩具诱导儿童参与危险挑战等情况都在禁止范围内。同时，企业不得利用AI通过生物识别数据对个人进行分类，或基于行为和个人特征进行评分，以决定是否提供福利或评估犯罪风险，但出于国家安全考虑，政府机构仍可在公共场所进行实时生物识别监控。

西班牙成为首批实施欧盟AI监管规则的国家之一。相比之下，美国的监管体系主要依赖企业自愿遵守规定，并由各州出台分散性法规，被认为不够全面。不过，实施这样的监管措施并非易事，界定AI生成的内容、确保标注的准确性都是难题，还需要平衡监管与创新的关系，比如对于医疗诊断和个性化推荐等创新的AI应用。此外，在实施过程中，还需考虑如何确保企业遵守规定、如何实施罚款以及罚款是否合理等问题。

总体而言，西班牙政府的这一举措具有积极意义，表明了其对保护知识产权和创新的重视，监管体系也具有前瞻性和全面性。但AI技术发展迅速，监管体系必须与时俱进，未来需要平衡监管与创新的关系，确保AI公平、公正、透明使用，保护个人隐私和防止不公平歧视。