日本首相岸田文雄昨天在人工智能专家小组会议上表示，政府计划在明年1月左右设立“人工智能安全研究所”，并表示将在明年3月之前制定针对人工智能开发企业和其他企业的指导方针。
岸田文雄在由东京大学教授松尾丰主持的人工智能战略委员会会议上表示:“国际上对人工智能安全的认识正在提高。”“我们需要一个组织来研究安全评估方法、制定标准和开展其他事宜。”
新研究所将在确保人工智能技术安全方面发挥核心作用，预计将为开发评估人工智能风险的软件等任务提供支持。美国和英国也计划设立类似的机构，因此该研究所很有可能参与国际协调工作。
政府还在考虑引入人工智能企业的第三方认证制度，预计新研究所将作为认证机构。
会上提出了针对人工智能公司的指导方针草案。草案列出了“以人为本”、“安全”、“透明”等10项应考虑的原则。草案还指出，鉴于意想不到的人工智能行为可能导致的严重侵权行为，应确保人类的可控性。
根据七国集团以“广岛人工智能进程”为基础达成的国际指导原则，草案还特别要求生成型人工智能开发商引入识别人工智能创造和澄清其信息历史等技术。新技术，例如标识信息原始来源的Originator Profile，正在考虑之中。
