编者按：全球AI立法浪潮中，韩国率先迈出关键一步——《AI基本法》正式全面生效，成为全球首个全面实施AI综合监管的国家。这部法律在扶持与规范间寻求平衡，强制要求企业为AI生成内容添加“水印”，同时划定“高影响AI”监管红线。然而，在科技创新与风险管控的天平上，韩国企业正面临前所未有的挑战：初创公司担忧合规成本压垮创新活力，科技巨头紧急调整服务条款应对变局。这场立法的先行实验，不仅将重塑韩国AI产业生态，更可能为全球数字治理提供关键范本。当技术的狂奔遇上法规的缰绳，人类究竟该如何驾驭AI这匹“黑马”？以下带来深度解析。
旨在规范与促进人工智能产业发展的《AI基本法》于22日起全面生效。即日起，韩国本土AI企业必须在使用ChatGPT、Gemini等生成式AI制作的内容上标注“AI使用”水印。尽管政府决定将监管措施推迟一年执行以尽量减少实施现场的混乱，但企业界担忧，这部全球首创的AI基本法可能会阻碍国内AI产业的发展。目前，各企业正在分析该法律的影响，并制定应对策略以防止潜在的副作用。
《AI基本法》于去年1月21日颁布，旨在培育国内AI产业并建立其安全使用的基础。韩国是继欧盟之后，第二个颁布涵盖支持与制裁措施的综合性AI立法的国家，但却是全球首个全面实施该法律的国家。韩国科学技术信息通信部强调，“该法约80%的条款侧重于产业促进”，但企业界关注的焦点却是剩下的20%——即监管措施。
《AI基本法》中的监管规定优先考虑防止危险AI的滥用。一项关键要求是履行透明度义务，为AI生成内容添加水印。对于难以与真实内容区分的深度伪造内容，必须通过水印明确标示使用了AI。对于动画或网络漫画等易于识别的内容，则允许使用不可见的数字水印。电影、电视剧、艺术和文学等创作作品，可以在不破坏作品沉浸感的限度内披露AI使用情况。
水印要求仅适用于企业，不适用于个人用户。将AI生成内容用于社交媒体帖子或内容创作的用户不受此规管。例如，使用AI的网络漫画作家，或在AI辅助下制作YouTube“Shorts”或Instagram“Reels”的网红，被归类为用户而非企业，因此可免除该义务。
《AI基本法》还将“高影响AI”指定为监管对象。政府将高影响AI定义为对人类的生命、安全或基本权利产生重大影响的系统，并列出了10个领域：能源、医疗、招聘、核电、刑事调查、交通和教育。一个代表性例子是达到4级或更高级别的自动驾驶汽车。最终决策过程中是否有人类干预，也是判定高影响AI的一个标准。例如，如果在招聘过程中AI推荐了候选人，但由人力资源团队做出最终决定，则该系统被排除在高影响AI分类之外。
违反AI使用事先披露等义务的企业，将面临最高3000万韩元的罚款。然而，在一年的宽限期内，事实调查和处罚将被推迟。
韩国国内公司正在迅速应对《AI基本法》的实施。即使有宽限期，它们也在主动准备，以尽量减少混乱。分发AI生成内容的Kakao修订了其服务条款，新条款将于2月5日生效。新条款增加了一项内容：“本公司提供的服务可能包含基于AI的服务，AI生成的结果将根据相关法律进行披露。”Kakao在其AI代理Kakana或“AI模板”生成的所有视频上，都插入了带有“Kakana”字样的可见水印。
国内游戏公司计划在一年宽限期内，根据科学技术信息通信部的详细指南进行应对。包括Krafton在内的一些公司，为应对欧盟分阶段实施的AI法案，已在全球发布的游戏中披露AI使用情况。公司相关人士表示，“《绝地求生》和《Inzoi》等游戏通过Steam平台标示AI使用情况。”
然而，一些初创公司代表和IT企业认为，《AI基本法》“因存在矛盾而令人困惑”。一个普遍的批评是，高影响AI的标准模糊不清，使得企业难以自行判断是否合规。关于高影响AI分类的法律纠纷可能带来重大风险。
在Startup Alliance去年对101家国内AI初创公司进行的调查中，98%的受访者表示“尚未建立应对AI基本法实施的体系”。韩国初创论坛常务理事Choi Ji-young表示：“初创公司往往缺乏应对监管变化的人力和资源。要使AI基本法有效运作，需要合理的制度、明确的标准和解释，以及降低合规成本的支持性基础设施。”
批评者还指出，《AI基本法》在应对深度伪造犯罪方面存在局限性。像xAI的“Grok”这样的平台（最近因儿童深度伪造内容引发争议）主要在海外运营，难以监管。政府要求满足以下至少一项标准的海外企业——国内销售额1000亿韩元、全球销售额1万亿韩元或日活用户100万——指定一名国内代表。然而，只有包括谷歌和OpenAI在内的极少数公司达到这些门槛。
专家建议政府在宽限期内积极与行业沟通，制定合理的指南。高丽大学人类启发AI研究中心教授Choi Byung-ho表示：“政府应在一年的时间内尽可能多地收集行业意见，以制定详细的指南。由于法律无法跟上AI行业的变化速度，即使在宽限期结束后，也需要政府和利益相关者定期聚在一起修订和实施法律。”
本文由万更网原创发布，未经许可，不得转载！
本文链接：https://m.fdsil.com/c/115093.html
