以深度学习为核心的人工智能技术是一把双刃剑,对其带来的安全挑战,业界一直保持冷静思索。中国工程院院士、国家数字交换系统工程技术研究中心主任、复旦大学大数据研究院院长邬江兴指出AI内生安全个性问题是当前AI应用推广中的最大障碍,在不确定性中构建更安全的AI应用系统是当前人类必须破解的安全难题。中国信息通信研究院云计算与大数据研究所所长何宝宏分析,不同于AI大模型的“动口”,AI Agent是“动手”,在缺乏对人类价值伦理的充分理解和合规的情况下,可能会产生不当的有害行为。
应用方面,AI大模型的滥用和恶意使用也触动着业界的安全“神经”。人工智能学者、中国计算机学会科普工委执行委员、搜狐视频关注流播主高庆一表示,技术是无罪的,有罪的应该是错误使用技术的人性。长寿投资人、Bold Longevity Growth Fund基金联合创始人、XPRIZE基金会创新委员会成员、畅销书《年龄革命》作者谢尔盖·扬指出,生物结构的人类将在20年后被AI“改造”,社会和监管需要为此做好准备。
围绕AI技术成熟度、伦理边界和未来发展前景,清华大学苏世民书院院长、清华大学人工智能国际治理研究院院长薛澜,第十三届全国政协常委、中国科协原副主席、国际核能院院士张勤,中国人民大学高瓴人工智能学院教授、北京智源研究院文澜团队成员卢志武,三星电子中国研究院院长张代君,境成资本管理合伙人向江旭等多方代表展开了一场AI思辨圆桌。他们一致认为,AI尚未迎来“奥本海默时刻”,当前基于算法的人工智能还没有自我意识,距离通用人工智能AGI还有很长的路要走,不过GPT等大模型出现将加速这一进程。
责任编辑:
以上就是本篇文章【张朝阳:科学是人类智慧的发现 智能时代将颠覆我们既有认知和生活】的全部内容了,欢迎阅览 ! 文章地址:http://fabua.ksxb.net/quote/3010.html 行业 资讯 企业新闻 行情 企业黄页 同类资讯 网站地图 返回首页 迅博思语资讯移动站 http://mip.ksxb.net/ , 查看更多