中国工程院院士、鹏城实验室主任高文认为,现阶段很多技术还处于发展的过程中,如果过早地说这个不能用、那个不能用,可能会抑制技术本身的发展。但反过来,如果什么都不管,也不行。
“因此,现在更多还是从道德层面多进行引导。同时,做技术的人,也要尽量把一些可能的风险、抑制工具,即约束风险的工具,尽快想明白。自己也做,同时号召大家做,两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为,我们要保证能够创新,但同时不能让创新对我们的生活产生破坏性的影响,最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时,社会也要进行集体的监督,发布某个产品或技术,要能够召回、撤销。在创新和监管之间,当然是需要平衡的,但归根结底,还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道,在技术可解释性方面,需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型,或者更加可解释的AI应用。
“但我们真正想落地的时候,会发现每个人想要的可解释性完全不一样。比如:模型层面的可解释,可能从研发人员角度觉得已经很好了,但是从用户的角度是看不懂的,这需要一些案例级的解释,甚至通过替代模型等方式进行解释。因此,在不同领域,需要不同的可解释能力,以及不同的可解释级别,这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中,现在是不是时候?
高文认为,人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对,可能带来危害,要么召回,要么撤销。
高文说,应用的开发者,系统提交或者最终用户让他去调整的时候,他应该有责任。如果开发者发现已经踩线了,应该给他一个保护机制,他可以拒绝后面的支持和维护,甚至可以起诉。“不能只说哪一方不行,光说是开发者的责任,他可能觉得冤枉,因为他只提供工具,但有时候是有责任的,只是说责任怎么界定。”
“在人工智能的发展过程中,一方面要建立一些红线。”田天建议,比如,对于人工智能的直接滥用,造假、个人隐私泄露,甚至关联到国家安全、生命安全的,这些领域一定要建立相关红线,相应的惩罚规定一定要非常清晰,这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上,对于处于模糊地带的,希望能留有更多空间。不光是从限制角度,也可以从鼓励更加重视伦理的角度,促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办,清华大学人工智能国际治理研究院(I-AIIG)承办,中国新闻网作为战略合作伙伴,联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
推动“科技—产业—金融”良性循环****** 【光明论坛】 2022年中央经济工作会议提出,要推动“科技—产业—金融”良性循环。这与“十四五”规划强调的“构建实体经济、科技创新、现代金融、人力资源协同发展的现代产业体系”耦合,本质上就是通过加强产学研资的深度结合,让科技成果能够及时产业化,发挥金融对科技创新和产业振兴的支持作用,并为金融发展提供坚实的实体经济支持,避免出现金融泡沫化风险,从而把科技创新、产业振兴和金融发展有机结合起来。 推动“科技—产业—金融”良性循环,要加强科技创新原动力。科技创新依赖于科学研究,尤其是基础科学研究。近年来,我国在一些核心技术方面遇到“卡脖子”难题,原因之一是基础性研究投入和研究能力还存在不足。在过去相当长的时间里,我国应用型科技领域成就斐然,形成了产业引导科技发展的方式,但还未大面积形成科技催生新产业的原始动力。中央经济工作会议提出,布局实施一批国家重大科技项目,完善新型举国体制,发挥好政府在关键核心技术攻关中的组织作用,突出企业科技创新主体地位。通过引导企业在基础研究方面投入,消除过于重视短期利益的现象,有利于充分聚焦长期的、底层技术的关键价值,力争取得创新突破,为更好促进产业发展夯实基础。 推动“科技—产业—金融”良性循环,要建立现代产业体系。产业化是科技形成生产力的关键环节。只有通过产业化,科技成果才能在国民经济各个领域得到广泛应用、形成一定经济规模的产品,通过科技创造利润,满足科技研究持续投入的资金需要,从而进一步催生新技术、新产业,形成科技与产业之间的良性互动。当前,外部环境动荡不安,给我国经济带来的影响加深,亟须构建关键技术自主创新体系,发展和安全并举推动传统产业改造升级,培育壮大战略性新兴产业。对此,首先要加大保护知识产权的执法力度,健全知识产权保护体系,加快推进知识产权强国建设。其次要充分挖掘国内大市场潜力,以行业、市场需求为导向引导产业形成产业集群,通过规模经济和产品的多样化、差异化以及国际化实现经济效益。还应当依法保护企业家权益,让参与科技创新和产业化的主体享有合法的权益,激发全社会的科技创新和科技成果转化的动力。 推动“科技—产业—金融”良性循环,要充分发挥金融对实体经济发展的服务作用、资本作为产学研合作的桥梁作用,通过有效配置资源推动科技与产业发展。现代经济发展历史表明,现代国家的崛起离不开一个强大资本市场的支撑。中国的资本市场已成为世界第二大资本市场,是中国特色社会主义市场经济的重要组成部分。此外,银行等金融机构也需要加大对科技创新类企业的信贷支持力度,助力有技术、有科技含量的企业做大做强。建设和运用好多层次的资本市场,中国资本市场要面向科技前沿的“硬科技”领域,汇聚起一批涉及各产业链环节、多应用场景的创新企业,充分利用好社会储蓄资金,推动中国经济高质量发展。 未来,要形成“科技—产业—金融”之间的良性循环,需要进一步强化三者之间相互“看见”“读懂”的纽带。通过建立健全科技创新成果产业化的中介服务体系,确保科技、知识产权等中介服务机构客观、科学评估创新成果产业化的市场价值和发展前景,进而提供更加精准的支持,为建立风险共担的“科技—产业—金融”运行机制提供科学准确的服务,促进科技、金融和实体经济之间的高水平循环。 (作者:王晋斌,系中国人民大学经济学院党委常务副书记、国家发展与战略研究院研究员、中国宏观经济论坛主要成员) (文图:赵筱尘 巫邓炎) [责编:天天中] 阅读剩余全文() |