数据标注升级换代进行时。
(资料图片仅供参考)
作者| 武静静
大语言模型对很多问题都能提供高质量回复的背后,一个关键的环节就是数据标注。
数据标注工作在大语言模型的运作过程中相当于一个内容过滤器——筛选出针对提问较高质量的回答,按照分数排序,最终把得分最高的回答呈现到用户面前。这部分工作,有的靠技术来完成,有的则需要依赖人工作业。
科技公司大多会采取两种方式来做数据标注:自建团队、找外包公司。此前外媒曾报道称,ChatGPT所使用的标注数据由肯尼亚工人完成。国内,百度正试图加大力度和合作方共建数据标注基地来完成。
日前,百度智能云启动运营了首个大模型数据标注基地——位于海口市秀英区的百度智能云(海口)人工智能基础数据产业基地,该基地可以为各行各业提供大模型数据服务,也是百度智能云推动大模型产业落地的又一重要布局。
百度智能云称,目前已经在全国与各地政府合作,共建了十多个数据标注基地,累计为当地提供超过万个稳定就业岗位,间接带动5万人就业。
数据标注是人工智能解决问题的关键一环。
在传统的判别式AI场景中也需要数据标注。比如自动驾驶领域,在教会系统识别车或者人之前,需要先通过摄像头或者雷达搜集环境信息,并通过人工,对这些信息进行标注,之后反馈给模型进行训练,模型才会知道哪些是车,哪些是人。
整个过程中,标注师需要把人、车、道路等框出来,让模型反复训练。尤其在一些复杂的场景,比如闯红灯车辆、横穿马路的行人、路边违章停靠的车辆等的识别更依赖数据标注师的工作。
生成式AI的出现对数据标注工作提出了新的要求。一般来看,大语言模型对人工数据的标注的需求主要出现在微调(SFT)以及基于人类反馈的强化学习(RLHF)阶段。
比如,需要有人在模型不会写诗的时候,通过人工教会模型诗的形式,下一次,它就可以“有样学样”的写出一首诗。此外,由于大语言模型会针对同一个问题生成很多回答,标注师需要对某些回答进行打分,告诉它哪些回答是好的,哪一些回答的不好,让模型下一次表现的更好。如此,反复循环, 大模型就能做出一个更好的回复。
这个过程中,标注师要做的事情更难了。他承担的类似一个专业的模型辅导老师一样的角色,需要具备一定的知识和技能,才能胜任。
百度智能云数据标注基地业务产品负责人胡驰提到,大语言模型标注过程中,通过人工不断的标注,能够让大模型的表现与人类的价值观,包括思维方式的对齐,最终它能像人一样去解决很多实际的问题。
胡驰表示,“大模型标注基地重点要评估三大指标:高效标注工具、高端人才梯队、高级别数据安全,只有三管齐下,才能为大模型提供好的数据。”
这次在百度的海口大模型数据标注基地现场,我们见到文心一言背后的标注师们是如何工作的。
比如,在“怎么样和喜欢的女生表白?”这一问题下面,模型会提供几个回答,标注师按照这些回复,依据百度自己建立的分数体系进行打分,按照打分进行排序,最终反馈给模型。
他们的日常工作就是:对大模型生成的内容进行评价、反馈,通过这些人工标注数据,让大模型学习人类的思维方式,从而使大模型更加聪明。
百度智能云大模型数据标注师王洁玉说道:“和传统的数据标注师要求不同,大模型标注师都需要本科以上学历,我觉得主要是因为大模型数据涉及的知识面很广,评判标准复杂,非常考验标注师的语言理解能力和逻辑推理能力。在入职的前两个月,公司会对我们进行集体培训和考核,通过考核后才能正式上岗。”
为提高数据标注的质量和效率,百度智能云自主研发了业内领先的大模型数据标注平台,支持从大模型微调、强化学习到模型评估的数据生产闭环。结合平台独有的人机协同标注、多轮智能审核等智能化工具,可大幅提升数据标注的产能和质量,同时帮助企业实现降本增效。
据了解,海口数据标注基地现拥有数百名专职大模型数据标注师,标注师的本科率达到100%。百度智能云还搭建了全流程数据服务人才梯队,以及构建了多领域专家资源库,可以针对来自不同行业的数据服务需求,迅速搭建专家团队,对特定领域的任务提供监督微调和强化训练数据,保证数据交付质量,目前已覆盖计算机、法律、医疗等领域。
更难的技术,对人才素质要求更高的工作,大模型正在引发更广泛的变化。
(封面图:百度智能云海口人工智能基础数据产业基地作业区,百度供图。)
标签:
数据标注升级换代进行时。作者|武静静大语言模型对很多问题都能提供高
太阳纸业(002078):二季度业绩略超预期周期底部经营稳健
想读好大学,不必走独木桥。许多家长为了让孩子有更多的升学选择,除了
8月29日,福建农林大学菌草与生态学院揭牌成立。今年秋季开学后,学院
往期问答收录在“买房的大师兄”微信公众号,关注看更多问答具体买...
8月24日消息,昨日晚间,五菱汽车公布中期业绩,上半年总收入为50 89亿
良品铺子上半年营收39 87亿元,净赚1个多亿,半年开店323家,零食,新店,
辰罡科技(08131)公布,公司股份将于2023年8月30日上午9点起短暂停牌。
君亭酒店:第二季度旗下酒店住宿行业指标均达历史最高水平8月29日,君
最后通牒管用!国米表态21点后就放弃帕瓦尔,最终20点39分达协议,拜仁,
强瑞技术2023年8月30日在深交所互动易中披露,截至2023年8月18日公司股
员工绩效考核全套方案,员工绩效考核模板这个很多人还不知道,现在让我
2023年08月31日,中炬高新技术实业(集团)股份有限公司披露2023年中报,
AGV小车为什么比传统运输工具更安全?随着科技水平的提升,制造行业对于
来源:参考消息网参考消息网8月30日报道据法新社8月29日报道,欧盟委员
云杰:黄金白盘延续看涨,晚间做空调整至1946学员周初1917-1915连多止
热刺:20-福斯特、6-达文森-桑切斯、12-埃默森、33-本-戴维斯、37-范德
值得一提的是,今年上半年,受部分类型人身险产品销售火热影响,五大险
国内SUV市场最近迎来了一位“高智商”选手——哈弗枭龙。作为一款定...
摘要:2023年08月30日艾布鲁(301259)换手率大于8%,主力资金净流出78
财经网产经讯8月29日晚间,农夫山泉发布2023年半年报。披露公司上半年
人民网澳门8月30日电(记者富子梅)往返香港国际机场海天中转大楼与港珠
五家白酒巨头半年报收官,贵州茅台、五粮液业绩仍遥遥领先,洋河股份保
,你们好,今天0471房产来聊聊一篇晚期营养,晚期营养简述的文章,网友
8月29日,闽发铝业公布2023年半年度报告,报告期营业收入亿元,同比增
根据近期市场情况,阶段性收紧IPO节奏,促进投融资两端的动态平衡。
8月30日,OPPOFindN3Flip已经在昨日正式发布,新增的这颗2x专业人像镜
10 国内首个万吨级光伏绿氢示范项目全面建成投产
天眼查App显示,近日,重庆美汉信息科技有限公司成立,法定代表人为孙
在日本举行的2023年神奇宝贝世界锦标赛上加冕获胜者一周后,对神奇宝贝