中国发展高层论坛2024年年会于3月24日在京召开。在人工智能发展与治理专题研讨会上，清华大学苏世民书院院长薛澜表示，人工智能的发展面临一系列风险需要防范。

从人工智能治理的角度来看，有以下五个挑战。

第一个挑战是步调不一致的问题。人工智能的技术发展非常快，但是治理体系的构建相对慢一些。

第二个挑战是信息不对称的问题。多次调研发现，政府和企业双方都有很多盲区。首先，企业不知道政府规制最关心的问题在哪儿；其次，对技术发展可能会带来什么风险，政府不清楚，很多企业也不清楚。

第三个挑战是从规制的角度来讲，在风险规制的过程中成本是不对称的。比如，人工智能如果被滥用或者误用的技术成本是相当低的，但是要去防范这种风险其实是非常困难的。防范风险的成本要远远高于它有可能造成危害的成本，所以风险治理的成本较高。

第四个挑战是在全球治理方面，做全球治理的人往往会提到机智复合体的问题，可能针对某一个问题，企业、组织、政府都很关心，都想采取一些措施去解决。专业组织、国际组织、基金会、企业等都对某个问题有一定的治理兴趣，甚至他们也有这方面的能力和条件。但是，所有这些组织之间没有从属关系，而是互相之间有重叠甚至有矛盾的机构，都对某个问题有相关的利益，希望来参与治理，使得全球治理体系的形成有很大的困难。

第五个挑战是在人工智能领域治理，一定要有美国和中国的合作，但是目前这种地缘政治也会带来相应的一些问题。

怎么去解决上述这些问题？薛澜提出以下五方面建议。

第一，要加强安全和技术。目前，在安全领域的研发是不够的，今后需要加强研究，尤其是需要加强国际合作。

第二，通过敏捷治理的方式解决治理方面的问题。

第三，鼓励企业的自我规制。外界的规制总是很难解决信息不对称的问题，应该提倡建立企业内部自我规制的一些机制。

第四，加强国际治理。在全球治理方面，联合国刚刚通过了一个协议，并召开了高级别专家的讨论。

第五，解决地缘政治的问题。在人工智能领域，中美双方一定要加强合作，这样才能真正解决人类面临的各种问题。