首页 > 最新小说 > 听见你的声音

尼基塔第三季

AI招人,比人类更容易产生偏见_我的网站

速度与激情6

A |     

原标题:彪炳史册的人间奇迹——党的十八大以来我国脱贫攻坚成就举世瞩目新华社北京9月13日电题:彪炳史册的人间奇迹——党的十八大以来我国脱贫攻坚成就举世瞩目新华社记者侯雪静、黄垚这是彪炳史册的人间奇迹:现行标准下9899万农村贫困人口全部脱贫,我国历史性告别绝对贫困。    (来源:麻省理工科技评论)          以后找工作时,你的简历很可能还没到招聘经理手里,就已经先被 AI 看过一遍了。问题是,它真的会公平吗?          研究人员早就发现,大语言模型会从训练数据里继承人类社会已有的偏见。但一项最新研究发现,事情可能比这更复杂:AI 不仅会学习偏见,还会在不断做决策的过程中,自己形成新的刻板印象,而且这种倾向甚至比人类更强。

B |          更值得警惕的是,AI 公司如今都在努力打造拥有长期记忆的智能体,希望模型能够记住用户越来越多的细节。

C | 党的十八大以来,以习近平同志为核心的党中央把脱贫攻坚摆在治国理政的突出位置,作为全面建成小康社会的底线任务,组织开展了气壮山河的脱贫攻坚人民战争,攻克了一个又一个贫中之贫、坚中之坚,取得举世瞩目的成就。从打赢脱贫攻坚战到全面推进乡村振兴,新时代的中国,正在合力描绘更加美好的时代画卷。

D | “小康不小康,关键看老乡”金秋时节,太行山深处的河北阜平一派丰收景象。

E | 而这些记忆,也可能成为模型滋生偏见的土壤。成熟的果子挂满枝头,果农们采摘、装箱、搬运上车,脸上洋溢着增收的喜悦。

F |          为了研究这一问题,普林斯顿大学和芝加哥大学的研究人员设计了一场模拟招聘实验,参与者包括 ChatGPT、Claude、Gemini 等多个主流大语言模型。

G |          实验改编自一项经典心理学研究。研究人员告诉模型,它们受雇于一位虚构城市的市长,担任招聘顾问,需要帮助政府为医生、律师、托育员、保洁员等 20 种职业招聘员工。村里建起一座座崭新民居,水泥路四通八达,群山之间一排排蘑菇大棚鳞次栉比。10年间,阜平变了个模样。所有候选人都来自四个虚构族群:Tufa、Aima、Reku 和 Weki。

H | 阜平是党的十八大后习近平总书记地方扶贫考察的首站。在这里,习近平总书记深刻指出,“全面建成小康社会,最艰巨最繁重的任务在农村、特别是在贫困地区。         每一轮,模型都会面对一个新的岗位,以及四位分别来自不同族群的候选人。完成招聘后,它会立刻得到反馈:这个人是否胜任工作。没有农村的小康,特别是没有贫困地区的小康,就没有全面建成小康社会”。在以习近平同志为核心的党中央引领下,脱贫攻坚战在新时代中国大地上打响——习近平总书记以不停歇的脚步丈量着贫困角落,从塞北高原到乌蒙山区,从秦岭腹地到湘西大山,从南疆绿洲到林海雪原……走遍14个集中连片特困地区,考察调研了20多个贫困村。脱贫攻坚的每个重要节点和重大关头,习近平总书记都亲自挂帅、亲自出征、亲自督战,召开7次脱贫攻坚座谈会,多次主持召开会议研究部署脱贫攻坚工作。随后进入下一轮。在习近平总书记的部署下,全国22个省区市向党中央立下“军令状”,形成省市县乡村“五级书记抓扶贫”的工作格局:25万多个驻村工作队,300多万名县级以上单位派出的驻村干部,做到户户有责任人,村村有帮扶队。整个实验一共持续 40 轮,模型的目标只有一个:尽可能招到更多合适的人。实施东西部扶贫协作,东部9个省、14个市结对帮扶中西部14个省区市,全国支援西藏和新疆,东部343个经济较发达县市区与中西部573个贫困县开展携手奔小康行动;党和国家集中力量解决贫困群众基本民生需求,优先保障脱贫攻坚资金投入:2012年到2020年,各级财政专项扶贫资金累计投入1.6万亿元,扶贫再贷款累计发放6688亿元。8年艰苦卓绝,8年攻坚拔寨。“我国脱贫攻坚战取得了全面胜利,现行标准下9899万农村贫困人口全部脱贫,832个贫困县全部摘帽,12.8万个贫困村全部出列,区域性整体贫困得到解决,完成了消除绝对贫困的艰巨任务,创造了又一个彪炳史册的人间奇迹!”2021年2月25日,习近平总书记在全国脱贫攻坚总结表彰大会上向全世界宣告中国举世瞩目的减贫成就。“脱贫攻坚,精准是要义”刚过去的暑假,湖南省湘西土家族苗族自治州花垣县十八洞村村民杨正邦每天都很忙。“暑假是旅游旺季,平均一天要招待400多个客人,毛收入2000元。”10年间,全村形成了旅游、山泉水、劳务、种养、苗绣五个产业,去年人均收入20167元,村集体经济收入268万元,实现从深度贫困村到小康示范村寨的“华丽转身”。2013年11月3日,正是在十八洞村,习近平总书记首次提出“精准扶贫”概念。模型不知道的是,研究人员其实做了一个手脚:无论来自哪个族群,每位候选人在任何岗位上的成功概率都完全一样。         按理说,模型不应该偏向任何一个群体。但结果恰恰相反。仅仅经过几轮招聘,模型就开始根据有限的经验,把不同族群和不同职业绑定在一起。他说,“发展是甩掉贫困帽子的总办法,贫困地区要从实际出发,因地制宜,把种什么、养什么、从哪里增收想明白,帮助乡亲们寻找脱贫致富的好路子。

I | ”党的十八大以来,习近平总书记对扶贫工作作出一系列重要论述,创造性地提出精准扶贫精准脱贫基本方略,推动了扶贫减贫理论创新和实践创新。例如,如果模型早期碰巧遇到一位 Aima 族候选人担任医生失败,它之后便会越来越少招聘 Aima 人做医生,而是更倾向于把他们安排到保洁岗位。

J | 这是史无前例的精准到人,明确“帮扶谁”:8年时间,近2000万人次进村入户,开展贫困人口动态管理和信息采集工作。这是举世罕见的精准组织,明确“谁来帮”:25万多个驻村工作队,300多万名县级以上单位派出的驻村干部,做到户户有责任人,村村有帮扶队。这是实事求是的精准施策,明确“怎么帮”:根据不同致贫原因实施“六个精准”“五个一批”,因地制宜、因人施策。这是审慎科学的精准评估,明确“如何退”:明确“时间表”,引入第三方,聚焦内生力和发展力……创新构建最严格考核评估体系,确保脱贫成果经得起历史检验。因为在模型看来,医生代表着更高的能力和亲和力,而保洁员对应的要求则更低。习近平总书记的重要指示和党中央决策部署,化为各地各部门扎实深入的实践,最终如期成功兑现庄严承诺,实现历史跨越,取得举世瞩目减贫成就——农村贫困人口全部脱贫,贫困人口收入水平显著提高,贫困地区自来水普及率从2015年的70%提高到2020年的83%,全部实现“两不愁三保障”;贫困地区发展步伐显著加快,经济实力不断增强,基础设施建设突飞猛进,社会事业长足进步,行路难、吃水难、用电难、通信难、上学难、就医难等问题得到历史性解决;“三区三州”深度贫困地区的许多乡村,实现特色产业“从无到有”的历史跨越。

K | 全国72%的贫困户与新型农业经营主体建立利益联结关系,70%以上的贫困户接受了生产指导和技术培训;……习近平总书记指出,“事实充分证明,精准扶贫是打赢脱贫攻坚战的制胜法宝,开发式扶贫方针是中国特色减贫道路的鲜明特征。

L | ”无论是雪域高原、戈壁沙漠,还是悬崖绝壁、大石山区,脱贫攻坚的阳光照耀到了每一个角落,人们的命运因此而改变,人们的梦想因此而实现。“脱贫摘帽不是终点,而是新生活、新奋斗的起点”秋日中午,车辆行驶在通往化屋村的旅游公路上,目光所及一派生机:路两旁多彩的花卉,远处一些低缓的山丘上正在平场施工,老乡刚从地里干完活儿收工回家……“脱贫了还不能歇脚,在面向乡村振兴的发展过程中还有很长的路要走。”贵州黔西市新仁乡党委副书记、化屋村党支部书记许蕾说,化屋村目前面临发展空间受限等挑战,打算以成立联村党委的形式,与其相邻的村“抱团”发展。脱贫之后,乡村如何振兴,习近平总书记念兹在兹。         换句话说,它开始把一次偶然的经历,当成了整个群体的特征。

M | 更令人意外的是,这种倾向甚至比真人严重。

N | 2021年2月3日,春节前夕,习近平总书记来到贵州毕节市黔西县新仁苗族乡化屋村考察调研,殷切嘱托当地干部群众:“要接续推进乡村振兴,加快推进农业农村现代化。希望乡亲们继续努力奋斗,把乡村产业发展得更好,把乡村建设得更美。研究人员使用了一项“职业隔离指数”来衡量刻板印象的程度。指数越高,说明不同族群越容易被固定到特定职业中;2 分代表完全隔离。”早在2020年3月6日召开的决战决胜脱贫攻坚座谈会上,习近平总书记就为打赢脱贫攻坚战后的乡村发展擘画方向,“接续推进全面脱贫与乡村振兴有效衔接。脱贫摘帽不是终点,而是新生活、新奋斗的起点。”乘势而上,接续奋斗,向着新的胜利进发。政策保障日趋完善——在西海固,一株株葡萄藤在贺兰山下破土,一朵朵小蘑菇在宁夏大地上绽放,肉牛养殖形成产业链条……山海情不断,福建和宁夏接续共同携手书写乡村振兴的时代画卷。此前心理学实验中的真人平均得分为 0.84,而大语言模型整体高出了约 65%。其中,OpenAI 的推理模型 o3 得到了 1.83,非常接近理论最高值。         论文共同作者、普林斯顿大学博士生 Ryan Liu 认为,这其实并不奇怪。对脱贫县设立五年的过渡期,在过渡期内,主要帮扶政策保持稳定并不断完善,要“扶上马、送一程”。各地保持政策的连续和稳定,坚持和完善驻村第一书记和工作队等制度。截至今年上半年,全国18.6万名驻村第一书记、56.3万名工作队员全部选派到位,新老交接有序推进。“大语言模型本来就特别擅长根据有限的信息快速总结规律。中央确定160个国家乡村振兴重点帮扶县,强化政策倾斜,加强监测评估。”他说,“这几乎就是它们被训练出来要做的事情。

o | 今年前8个月,农发行向160个国家乡村振兴重点帮扶县投放贷款443.49亿元,同比多投放125.64亿元,增加39.5%。发展基础不断夯实——具备条件的乡镇和建制村全部通硬化路、通客车、通邮路。脱贫地区农网供电可靠率达到99%,大电网覆盖范围内脱贫村通动力电比例达到100%,脱贫村通光纤和4G比例均超过98%。脱贫地区教育、医疗、文化、社会保障等基本公共服务水平大力提升,实现贫困人口学有所教、病有所医、老有所养、弱有所扶,发展基础更实、后劲更足。”          在人类心理学中,这种现象对应着经典的“探索—利用困境”(exploration-exploitaion dilemma):是继续选择过去证明有效的方法,还是尝试新的可能?就像出去吃饭时,你会纠结是去一家没吃过的新店,还是继续光顾那家不会踩雷的老餐馆。精神面貌愈发昂扬——既富“口袋”也富了“脑袋”。脱贫群众的精神世界在脱贫攻坚中得到充实和升华,信心更坚、脑子更活、心气更足,发生了从内而外的深刻改变。脱贫地区文明程度显著提升,艰苦奋斗、苦干实干、用自己的双手创造幸福生活的精神在广大脱贫地区蔚然成风。习近平总书记指出,“脱贫攻坚伟大斗争,锻造形成了‘上下同心、尽锐出战、精准务实、开拓创新、攻坚克难、不负人民’的脱贫攻坚精神。

p |          对于大语言模型来说,这种取舍往往更加偏向后者。因为它们长期接受数学、编程和科学任务训练,而这些任务通常鼓励模型从少量例子中快速归纳规律,所以它们很容易过早下结论。”“全党全国全社会都要大力弘扬脱贫攻坚精神,团结一心,英勇奋斗,坚决战胜前进道路上的一切困难和风险,不断夺取坚持和发展中国特色社会主义新的更大的胜利。”勠力同心,继续前进。在以习近平同志为核心的党中央坚强领导下,全党全国众志成城、团结奋进,以更有力的举措,汇聚更强大的力量,加快农业农村现代化步伐,促进农业高质高效、乡村宜居宜业、农民富裕富足。也正因为如此,那些推理能力更强的新模型——例如 OpenAI 的 o3 和 DeepSeek 的 R1——在实验中反而表现出了更明显的偏见。(完)返回搜狐,查看更多责任编辑:

。Liu 说,“当这种快速归纳的能力被带入社会场景时,问题就开始出现了。

q | ”          康奈尔大学计算机科学家 Angelina Wang 没有直接参与这项研究,但她认为,这项工作来得正是时候。如今,各家公司都在为聊天机器人加入长期记忆和个性化能力。当模型越来越依赖于用户过去的互动记录时,它也可能越来越容易根据这些有限经验形成判断。

r | 她说,“它可能会过度依赖自己过去遇到过的行为模式。”          当然,解决办法并不是让 AI 什么都记不住。毕竟,大多数用户都希望聊天机器人能够记住自己说过的话。真正困难的是找到那个平衡点:既保留足够的记忆提供个性化体验,又不至于让模型因为这些经验形成新的偏见。         研究人员还尝试了另一种办法,直接告诉模型:请公平一点。但并不奏效。Liu 认为,这说明模型未必真的能够把“公平”这样的价值观落实到具体决策中;又或者,这种要求会被另一个更强的目标覆盖——尽可能提高招聘成功率。         但如果换一种方式,情况就不同了。研究人员告诉模型,如果能够实现更加多元化的招聘,它们还能获得额外奖励。模型的偏见随即大幅下降。这说明,与其不断强调公平,不如直接把公平写进模型的目标函数里,让社会价值真正成为模型优化的一部分。         研究人员还发现,当模型掌握更多真正与任务相关的个人信息时,偏见也会减轻。另一组实验中,模型需要帮助来自不同族群的人搬迁到加拿大不同城市。如果提供的是年龄、教育背景等与适应新城市能力相关的信息,模型就更倾向于依据这些个人特征做判断,而不是简单按照族群分类。但如果提供的是发色、纹身图案这类无关信息,模型很快又会重新回到按族群做决定的老路上。         至于现实中的 AI 招聘系统会不会出现同样的问题,目前还没有明确结论。

s | 实验中的模型每做完一次招聘,都能立刻知道结果;现实世界却不是这样。一家公司往往需要几个月甚至更长时间,才能判断一位员工是否真正适合岗位。不过,只要这些反馈持续积累,模型依然可能从有限的数据中过度总结经验,并把这些经验带到下一次招聘中。         随着越来越多企业开始使用大语言模型筛选简历、甚至参与面试,这项研究释放出的信号不容忽视。

t | 未来,AI 不只是可能复制人类已有的偏见。它还可能在不断学习和决策的过程中,创造出一种从未有人教过它的新偏见。正如 Liu 所说:“这种新的偏见,可能会一直存在。

u | ”          原文链接:          https://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans/。

Current article:http://9rc6.yaoyaotoutuanmieshaideizun.buzz/list_2kg/gdyh.html

Published on:00:00:00