新金融联盟理事长、中国银行原行长李礼辉:需要重构人工智能信任,建立防范AI操纵的防火墙

5月23日,在“第八届融城杯金融科技创新案例评选”启动仪式上,新金融联盟理事长、中国银行原行长李礼辉在主题发言中表示,“科技创新未必总是一个线性发展的过程,突破性的技术进步往往会改变技术竞争和经济发展的大势和格局。ChatGPT的面世推动人工智能发展史走到了奇点,带来了新的冲击和挑战。”

新金融联盟理事长、中国银行原行长李礼辉:需要重构人工智能信任,建立防范AI操纵的防火墙

图片来源:主办方

李礼辉强调,金融科技创新有两大原则:一是方向正确,认真学习、贯彻落实党中央精神与金融监管机构的指导性、规范性文件十分重要;二是问题导向,金融科技创新是一个不断发现问题、解决问题、持续进步的过程,能够克服金融服务的难点、痛点的创新,一定是有价值的创新。

李礼辉指出,“ChatGPT的面世推动人工智能发展史走到了奇点,带来了新的冲击和挑战。”

一是在算力竞争上面临挑战。金融领域中,智能化的信用评估、客户筛选、风险定价、数字员工等方面无不需要数据和算力的支撑,算力很大程度上决定金融业的竞争力。算力的竞争,今后是科技巨头、资本巨头之间的竞争。

他表示,“我们需要探讨如何构建一个既能占领全球技术高地、又能避免垄断的国家级算力基础设施;如何构建一个资源可共享、商业可持续、监管可包容、金融机构和科技公司可受益的金融算力生态圈。”

二是AI合成与信任面临挑战。深度内容合成模糊了真实与虚假的边界,最新的深度合成算法可以对抗通用的技术性的甄别,人们开始担忧AI虚假与AI操纵对社会构成的威胁。

李礼辉认为,“低级别的AI虚假用于诈骗、诋毁个人及企业名誉;高级别的AI操纵有可能用于诋毁政治人物或政权实体操控负面舆情、制造政治恶意、激化社会矛盾。”

“我们迫切需要重构人工智能信任,在技术上、制度上有效对抗AI虚假,建立防范AI操纵的防火墙,维护数字经济时代的国家安全与金融业安全。”李礼辉强调。

封面图片来源:主办方供图