世界今热点:帮AI“懂道德” 中科院等发布伦理安全观测平台“智善·观行”
新京报贝壳财经讯(记者罗亦丹)在生成式语言大模型“百花齐放”的当前,如何教育AI懂得人类的伦理道德?4
(资料图)
新京报贝壳财经讯(记者罗亦丹)在生成式语言大模型“百花齐放”的当前,如何教育AI懂得人类的伦理道德?4月23日,新京报贝壳财经记者获悉,“智善·观行”人工智能大模型伦理安全观测站于今日正式发布,该平台由中国科学院自动化研究所人工智能伦理与治理研究中心、远期人工智能研究中心联合研发并提供服务。
“智善·观行”名称取自“察言观行”,即通过汇聚公众对人工智能大模型的伦理安全测试反馈来观察评估现有人工智能大模型表现出的“道德品行”,从而为进一步改善相关人工智能大模型提供参考依据,“智善·观行”人工智能大模型伦理安全观测站的中英文版同步发布(中文版地址:https://for-good.ai/large-ai-investigator)。
新京报贝壳财经记者登录上述网站发现,用户可以向该平台提交大模型输出结果的案例,此外记者还看到了已提交的案例的部分公示,如4月22日有用户提供了ChatGPT生成的某回答,并标注认为该相关回答违背社会文化习俗和伦理道德规范。
“智善·观行”人工智能大模型伦理安全观测平台网站截图
据了解,该平台通过公众参与、公众反馈的众包模式邀请公众参与对不同企业、学术机构等发布的人工智能大模型的伦理安全评估,并通过在线提交测试结果的形式反馈大模型输出存在的伦理安全问题、以及输出结果合乎伦理安全的案例。相关评估结果与问题在网上公开,一方面为涉及到的人工智能大模型提供帮助和反馈便于其自身的进一步改进,另一方面所有人工智能大模型的研发均可以参考其他模型存在的潜在问题以及合乎伦理安全的输出,利用相关的问题与案例来改进自身服务。
中国科学院自动化研究所人工智能伦理与治理中心主任曾毅表示,人工智能大模型实现智能向善需要大家的共同参与,通过公众的“察言观行”来群智群力,共同助力人工智能大模型伦理安全的提升与发展。
编辑 程子姣
校对 柳宝庆
关键词:
[ 相关文章 ]
新京报贝壳财经讯(记者罗亦丹)在生成式语言大模型“百花齐放”的当前,如何教育AI懂得人类的伦理道德?4
汽车氙气大灯的工作原理是,接通电源后,变压器瞬间将12V电源升压至20000伏以上的高压脉冲电压,激活氙气灯
江苏队彻底崩塌,篮协处罚成笑话,谁来给球迷一个交代,篮协,篮球,打假,江苏队,主力阵容,CBA两队打假赛被顶
你需要的东西温水桶液体洗洁精花园喷雾机杀虫剂浮排罩或金属丝网蚱蜢搅拌机鸡喂鸟器、水盆或鸟舍苦薄荷、香
【本文来自《电车所谓的续航焦虑其实就是为了折磨自己而幻想出来的》评论区,标题为小编添加】死猫儿头那是
1、试试这个。2、一般都有。3、搜出来都是百度网盘:。本文到此分享完毕,希望对大家有所帮助。
天眼查App显示,近日,重庆苏宁易购销售有限公司新增多则被执行人信息,执行标的合计1204万余元,执行法
1、我来客观评价一下吧。2、以esetsmartsecurity8 0 319 1为例:1 查毒能力:eset的查
近日,土巴兔宣布演员沙溢成为其新晋品牌代言人。沙溢作为最新形象代言人,将联袂“装小兔”组成了土巴兔的
据微博爆料的消息,小米14将在今年年底登场,和上一代小米13一样,同样采用直屏设计,猜测会采用高通骁龙8G
缺锌会造成少精症吗存在缺锌的表现可能会导致男性患上少精症。缺锌容易导致精子的质量变差,很容易引起精子
1、您好!对于玫瑰荷叶茶的功效与作用是非常多的,玫瑰荷叶茶,有美容养颜的功效,这一点深受很多女性的喜
记者从工业和信息化部了解到,今年一季度,我国船舶工业运行企稳回升,多项指标居世界第一。不久前,中国船
教育部、海南省人民政府联合印发《境外高等教育机构在海南自由贸易港办学暂行规定》
看天心区如何为读者打造全新阅读体验“4 23世界读书日”暨公共图书馆服务宣传推广周活动启动湖南日报·新湖
1、在视图菜单中选择工具选择边框就行了。本文到此分享完毕,希望对你有所帮助。
2023中国街舞联赛(南京站)22日在南京门东历史街区中心广场开赛,本站赛事首次增设U14女子组,崔圣雨和胡
来源:财联社财联社4月23日电,中国人民银行国际司司长金中夏介绍,人民银行采取了很多措施做好金融支持稳
图书漂流是一段文明美丽的奇特之旅,是一种传递快乐的阅读游戏,可以让家中闲置的书得到新的阅读生命,传递
首先,我们需要在服务节点上启动Consul客户端代理,并将服务注册到Consul中。在这个例子中,我们将服务注册
[ 相关新闻 ]
Copyright 2015-2023 华夏医院网 版权所有 备案号:琼ICP备2022009675号-37 联系邮箱:435 227 67@qq.com