一本道,跳舞机歌曲,特级做A爱片久久久久久,性别饥饿妈妈

专家警告:AI系统的可解释性存在欺骗可能

编辑:三茅网 2025-07-30 10:46 548 阅读

德国人工智能研究中心(DFKI)研究团队在日前召开的国际机器学习大会上报告称,在可解释人工智能(AI)领域,“X-hacking”是一个此前被普遍忽视的风险,并呼吁批判性和反思性地使用自动化机器学习(AutoML)工具。

如果AI系统作出了正确预测,但却以完全不同的方式解释其得出的这些结果,会发生什么?DFKI数据科学团队介绍了“X-hacking”给AI可信度带来结构性风险的研究成果。

X-hacking一词源于统计学中的P-hacking。所谓P-hacking指的是研究人员可通过一些数据操作技巧,在统计学上得出一个有显著意义的结果,即使这个结果实际上并无意义。这相当于一种数据篡改,可能会导致发布假阳性结果。

相应的X-hacking描述了两种核心机制:一是Cherry-picking,即从众多同样优秀的模型中,精心挑选出解释能力最强、最能支持预期结果的模型;二是定向搜索,AutoML系统不仅能优化预测性能,还能精准地找到具有特定解释模式的模型。但这里面存在的风险往往被低估。

即使模型得出的结果几乎相同,所谓的特征重要性也可能存在巨大差异。这在医学研究或社会科学等应用领域尤为敏感,因为在这些领域,可解释的模型通常构成关键决策的基础。

AutoML代表了开发、选择和优化机器学习模型的自动化流程。软件工具接管了许多以前只有经验丰富的机器学习工程师才能完成的任务,例如选择合适的模型架构、数据预处理和超参数优化等。在医学、工业或社会研究等数据密集型领域,AutoML有望实现更快的开发速度、更低的进入门槛和可重复的结果。

然而,这种自动化使得人们难以理解模型决策的制定方式,这是可解释AI的一个关键问题。因此,DFKI研究团队建议,使用AutoML的学科应该意识到方法的风险,而不仅仅只是信任软件。

来源:科技日报

老板给钱,让员工自己交社保,可以吗?算违法吗?
案例丨休息时在宿舍摔伤,能否认工伤?
公司违法延长试用期,被法院判决支付劳动者赔偿金
我所有的怨气,都消失在我月入2万的那晚。
三茅日报丨人力资源相关最新简讯(2025年8月1日)
美团、淘宝闪购、饿了么发文:呼吁抵制无序竞争
京东宣布奖励快递员等一线员工子女考上大学:高考贺喜奖金+3天带薪假
字节跳动回应员工司龄争议,优化绩效管理体系
新版《职业病分类和目录》实施:“鼠标手”被纳入职业病范畴
月薪5000元,缴20年社保,退休后可以领多少养老金?
官方答复:特殊工种原法定退休年龄(45、55岁)是否有增加?如何计算?
8月起,这些新规正式实施
下载APP
扫码下载APP
三茅公众号
扫码添加公众号
在线咨询
扫码在线咨询
消息
关注
粉丝
正在加载中
猜你感兴趣
换一批
评论和点赞
59452
企业的人才理念应该和整体的用人理念有所区别,因为人才和普通劳动力,本身就身就存在质量身就存在质量存在质量
评论和点赞
59452
企业的人才理念应该和整体的用人理念有所区别,因为人才和普通劳动力,本身就身就存在质量身就存在质量存在质量
评论和点赞
59452
企业的人才理念应该和整体的用人理念有所区别,因为人才和普通劳动力,本身就身就存在质量身就存在质量存在质量
评论和点赞
59452
企业的人才理念应该和整体的用人理念有所区别,因为人才和普通劳动力,本身就身就存在质量身就存在质量存在质量
评论和点赞
59452
企业的人才理念应该和整体的用人理念有所区别,因为人才和普通劳动力,本身就身就存在质量身就存在质量存在质量
更多
消息免打扰
拉黑
不再接受Ta的消息
举报
返回消息中心
暂无权限
成为三茅认证用户,即可使用群发功能~
返回消息中心
群发消息本周还可群发  次
文字消息
图片消息
群发须知:
(1)  一周内可向关注您的人群发2次消息;
(2)  创建群发后,工作人员审核通过后的72小时内,您的粉丝若有登录三茅网页或APP,即可接收消息;
(3)  审核过程将冻结1条群发数,通过后正式消耗,未通过审核会自动退回;
(4)  为维护绿色、健康的网络环境,请勿发送骚扰、广告等不良信息,创建申请即代表您同意《发布协议》
本周群发次数不足~
群发记录
暂无记录
多多分享,帮助他人成长,提高自身价值
群发记录
群发文字消息
0/300
群发
取消
提交成功,消息将在审核通过后发送
我知道了
您可以向我询问有关该内容的任何信息,或者点击以下选项之一:
{{item}}
三茅网出品,免费使用
复制
全选
总结
解释一下
延展问题
自由提问

专家警告:AI系统的可解释性存在欺骗可能

编辑:三茅网2025-07-30 10:46
548 阅读

德国人工智能研究中心(DFKI)研究团队在日前召开的国际机器学习大会上报告称,在可解释人工智能(AI)领域,“X-hacking”是一个此前被普遍忽视的风险,并呼吁批判性和反思性地使用自动化机器学习(AutoML)工具。

如果AI系统作出了正确预测,但却以完全不同的方式解释其得出的这些结果,会发生什么?DFKI数据科学团队介绍了“X-hacking”给AI可信度带来结构性风险的研究成果。

X-hacking一词源于统计学中的P-hacking。所谓P-hacking指的是研究人员可通过一些数据操作技巧,在统计学上得出一个有显著意义的结果,即使这个结果实际上并无意义。这相当于一种数据篡改,可能会导致发布假阳性结果。

相应的X-hacking描述了两种核心机制:一是Cherry-picking,即从众多同样优秀的模型中,精心挑选出解释能力最强、最能支持预期结果的模型;二是定向搜索,AutoML系统不仅能优化预测性能,还能精准地找到具有特定解释模式的模型。但这里面存在的风险往往被低估。

即使模型得出的结果几乎相同,所谓的特征重要性也可能存在巨大差异。这在医学研究或社会科学等应用领域尤为敏感,因为在这些领域,可解释的模型通常构成关键决策的基础。

AutoML代表了开发、选择和优化机器学习模型的自动化流程。软件工具接管了许多以前只有经验丰富的机器学习工程师才能完成的任务,例如选择合适的模型架构、数据预处理和超参数优化等。在医学、工业或社会研究等数据密集型领域,AutoML有望实现更快的开发速度、更低的进入门槛和可重复的结果。

然而,这种自动化使得人们难以理解模型决策的制定方式,这是可解释AI的一个关键问题。因此,DFKI研究团队建议,使用AutoML的学科应该意识到方法的风险,而不仅仅只是信任软件。

来源:科技日报

展开全文
老板给钱,让员工自己交社保,可以吗?算违法吗?
案例丨休息时在宿舍摔伤,能否认工伤?
公司违法延长试用期,被法院判决支付劳动者赔偿金
我所有的怨气,都消失在我月入2万的那晚。
三茅日报丨人力资源相关最新简讯(2025年8月1日)
美团、淘宝闪购、饿了么发文:呼吁抵制无序竞争
京东宣布奖励快递员等一线员工子女考上大学:高考贺喜奖金+3天带薪假
字节跳动回应员工司龄争议,优化绩效管理体系
新版《职业病分类和目录》实施:“鼠标手”被纳入职业病范畴
月薪5000元,缴20年社保,退休后可以领多少养老金?
官方答复:特殊工种原法定退休年龄(45、55岁)是否有增加?如何计算?
8月起,这些新规正式实施
顶部
AI赋能,让您的工作更高效
您可以向我询问有关该内容的任何信息,或者点击以下选项之一:
{{item}}
{{copyMenuTxt}}
您可以向我询问有关该内容的任何信息,或者点击以下选项之一:
{{item}}
{{copyMenuTxt}}
三茅网出品,免费使用
复制
全选
总结
解释一下
延展问题
自由提问
联系我们(工作日 09:00-19:00 )
乱公伦媳2| 被两个男人吃奶三P| 合家欢(1-46)王家| 麻豆精品无码少妇久久爽爽网站| 明星记忆修改系统| 老公把舌头放进我B里搅拌| 欧美MV日韩MV最火的一句歌词| 九九在线观看免费播放大全电视剧| 母与子免费观看大全电视剧| 蜜桃成时熟| 下面的小嘴又饿了| 法国色情巜做爰狂欲| 《工地夫妻》原声版| 《法国空乘5》观看| 《魅魔之耻》1~4集免费看| 善良的公与媳HD中文| 荷兰日B赛现场视频| 成品动漫网站入口网页版怎样| 我喜欢你全集在线观看免费| 荡公乱妇第1章情公苏雪视频| 二妈的秘密短剧免费版| 三个老师轮流给学生布置作业 | 40岁女人如饥似渴最佳解决方法| 乳首やばっちやんねん的英文| 公媳欢情沈曼最新章节更新| 法国空乘伦理2| 免费B站看大片真人电视剧| 快拔出来老师要怀孕了| 美国禁忌少妇6| 《军舰上的女兵》法国版完整版 | 驻站多少集| 草原课文六年级上册| 羞羞视频| YY影院免费观看电视剧网站 | 美国禁忌2在线观看电视剧| 丈夫不在家儿媳想老公的背景故事| 成都私人情侣免费看电视剧的软件 | 《疯狂72小时》韩剧| 大雷QQ弹弹摇晃| 性之剧毒 电影| 《大度》韩版免费