欢迎光临888集团网站

新闻资讯
人工智能数据:真实性保障、同意权行使与来源追踪的艰难平衡
发布时间:2026-02-15
  |  
阅读量:
字号:
A+ A- A

  基础模型能够实现能力上的重大突破,在很大程度上要归功于其训练所使用的数据集规模极为庞大、来源十分广泛,然而这些数据集的文档记录却存在明显不足。但就目前的数据收集实践情况来看,在多个关键方面面临着一系列严峻挑战。例如,在追踪数据的真实性方面存在困难,难以有效验证数据收集过程中是否获得了充分的同意权,对用户隐私的保护不够到位,数据代表性与偏见问题也亟待解决,同时还需要充分尊重版权。这些问题的存在,使得整体开发出符合伦理规范且值得信赖的基础模型变得困难重重。

  针对上述种种问题,监管部门正着重强调训练数据透明度的重要性。因为只有确保训练数据的透明度,才能清晰明确基础模型所存在的局限性,从而为后续的改进和优化提供方向。

  本文基于对基础模型训练数据的现状以及现有解决方案展开的大规模分析研究发现,当前在支撑负责任的基础模型开发过程中,缺乏一些关键的基础设施。同时,深入剖析了现有用于数据真实性验证、同意权确认以及文档记录追踪的工具所存在的局限性。在此基础上,进一步阐述了政策制定者、模型开发者以及数据创作者应如何通过采用统一的数据来源标准,来共同推动负责任的基础模型开发工作,确保基础模型能够在合法、合规、符合伦理的轨道上持续发展。

  在过去的十年里,网络新闻、社交媒体、百科全书等渠道所提供的数据,已然成为 GPT - 4、Whisper 等通用生成式智能消费技术的核心支撑资源。这些模型所采用的训练数据丰富多样,既有通过网络爬虫获取的,也有由人工精心生成或手动整理的文本、图像以及音频数据。

  然而,当前围绕大规模爬取、获取以及批量生产松散结构化数据展开的激烈竞争,引发了一系列不容忽视的问题。当下普遍的数据收集实践呈现出一种特点:数据来源极为广泛,且常常以打包的形式投入使用,但却对原始来源、创作者的意图、版权归属以及许可状态等关键信息缺乏必要的追踪与审查,甚至连数据基本的构成和属性都模糊不清。同时,元数据缺乏应有的透明度,并且缺乏能够对这些元数据进行有效追踪的公共基础设施。这一系列状况使得开发者深陷伦理和法律的双重困境。

  那些未经充分调查便被用于训练的数据,已经在现实中引发了诸多棘手问题。例如,LAION - 5B 数据集曾是 Hugging Face 平台上使用最为广泛的文本到图像数据集之一,然而在被曝光包含数千张儿童材料(CSAM)图像后,该数据集不得不被下架处理。此外,部分数据源的使用还引发了知识产权纠纷,最终导致 Stability AI、OpenAI 等公司陷入诉讼风波。

  更为严重的是,有确凿证据表明,基础模型存在诸多安全隐患和不良影响。它可能会泄露个人身份信息(PII),生成非自愿私密图像(NCII),制造虚假信息或深度伪造内容,甚至会放大社会中的偏见和歧视现象。而且,在训练完成后,若要从模型中撤回或让模型“遗忘”某些数据,目前所采用的相关方法可靠性严重不足。这些方法往往难以彻底清除目标数据对应的信息残留,并且在数据撤回过程中,还可能对生产模型的既有性能、泛化能力等关键维度造成负面影响,从而极大地限制了模型在实际场景中的推广应用价值。

  由此可见,训练数据的早期选择具有深远的长期影响。当下迫切需要相关资源,助力开发者发现并全面了解不同训练数据集所带来的收益与潜在风险。这些问题也促使新的数据基础设施和框架不断发展,以应对负责任地获取训练数据所面临的种种挑战。

  在现有的生态系统中,虽然已经存在一些用于基础模型数据管理的工具,但这些工具往往存在明显缺陷。它们要么忽略了问题的关键方面,要么与并行标准或其他工具缺乏互操作性,亦或是尚未得到广泛的应用和推广。

  本文认为,尽管针对该问题的不同要素已经提出了多种解决方案,但一个完整的数据来源追踪系统仍未形成。当前亟需构建一个致力于对数据属性进行结构化文档记录的统一框架,而这需要多个利益相关者携手合作、共同行动。

  当下,用于追踪人工智能数据来源的规范存在明显短板。一些广受欢迎的智能系统,甚至对自身训练数据的基本信息都讳莫如深、不予披露。业界一直呼吁构建更为系统、全面的数据文档记录体系,但从实际落地效果来看,这些呼吁在采纳程度和执行标准上存在较大差异。

  特别是对于那些被称为“数据集的数据集”,其文档记录问题更为严峻。这类大规模集合往往包含数百个数据集,由于缺乏统一的标准结构,原始来源信息常常被忽视,甚至在流转过程中丢失不见。与此同时,从业者们也在积极发声,他们呼吁提高数据透明度,强化对数据供应链和生态系统的监测,开展内容真实性验证工作,为打造可重复、可解释且可信的智能系统提供详尽的来源追踪信息。此外,还专门提议建立一个标准化数据库,用于记录那些可信的数据。

  这些来自从业者的迫切需求,引起了众多国家监管机构和立法者的广泛关注,并促使他们积极采取行动。美国和欧盟在数据透明度方面已经迈出了重要步伐,所颁布的一系列政策中,均包含了与透明度、来源追踪以及深入了解人工智能模型输入相关的条款。其中,《欧盟人工智能法案》更是明确规定了基础模型提供商在训练数据来源追踪方面的具体责任和要求。加拿大当局提出的自愿行为准则,呼吁模型开发者公布训练数据的详细描述。联合国机构也建议制定关于数据权利的国际法规,并将透明度纳入其中。

  研究人员和立法者对数据来源追踪的关注,为本文开展关于数据来源追踪和透明度统一框架的研究提供了重要动力。尽管此类标准并不能直接消除人工智能带来的风险,但它们是评估风险、推动人工智能朝着更负责任方向发展的关键前提条件。

  人工智能模型在运行过程中,存在两种可能侵犯版权权益的情形。其一,在模型训练阶段,极有可能对训练数据中作品的创作者,或是训练数据语料库创建者的版权造成侵害;其二,人工智能模型生成的特定输出内容,或许会侵犯训练数据中单个作品所关联的版权。

  在实际应用中,人工智能模型有时会产出与预训练数据内容高度相似的结果,这无疑可能侵犯相关作品创作者的权利。而通常情况下,这些创作者并未同意其内容被用于模型训练。需要明确的是,即便预训练数据的使用在一定程度上可能受到合理使用原则的庇护,但这绝不能等同于其特定输出内容就不会构成版权侵权。

  此外,指令微调以及平行数据集的使用方式,往往与许可协议的要求相悖。这些数据集包含诸多专为训练机器学习模型而精心创建的表达元素,所以将其用于此目的,大概率无法获得合理使用原则的保护。

  在此背景下,建立强大且完善的数据来源追踪标准显得尤为关键。它有助于解决人工智能训练过程中使用受版权保护材料所引发的一系列重要问题。对于预训练和微调过程而言,标准化的数据来源追踪框架能够有效降低法律风险,为版权权益的执行提供有力支撑。毕竟,版权侵权认定的关键在于是否接触过受保护的作品,因此,深入了解训练模型所使用的数据集,以及这些数据集中所包含的具体作品,对于准确评估版权问题起着至关重要的作用。

  《欧盟人工智能法案》以及拜登政府发布的《关于安全、可靠和负责任地发展和使用人工智能的行政命令》,均以直接或间接的方式,着重强调了人工智能系统透明度的必要性。这两份重要文件都明确要求,需向消费者清晰传达人工智能系统所存在的局限性。

  具体而言,《欧盟人工智能法案》规定,高风险人工智能系统必须披露其训练、验证和测试数据集的相关信息,同时还要提供基础模型所使用的受版权保护训练数据的摘要。其中,技术规范涵盖数据获取、标注以及处理方式等具体的来源追踪信息。而拜登政府发布的行政命令,则鼓励监管机构着重强调人工智能模型的透明度要求,以此切实保护消费者的合法权益。

  本文在此郑重呼吁数据集创作者、模型开发者、研究人员以及立法者积极行动起来。立法者通过深入了解人工智能生态系统的本质特征,能够制定出具有针对性的激励措施,鼓励各方更好地记录新数据集,并对现有数据进行严格审计。

  尽管在人工智能监管领域,“透明度”这一概念往往缺乏明确的定义,但监管机构完全可以巧妙利用透明度义务,引导模型开发者详细记录其训练数据的相关信息。此外,政策制定者还应为数据来源追踪相关的研究提供充足的资金支持。

  当前,存在一些不合理的激励因素,导致许多公司不愿披露其数据集信息,因为这样做可能会增加它们面临法律诉讼的风险。针对这一情况,立法机关可以考虑为那些主动向监管机构和公众提供其数据集必要信息的组织,提供安全港保护,以此消除它们的后顾之忧,推动人工智能行业朝着更加健康、负责的方向发展。

  目前,尚未形成一套完整的数据来源追踪系统。现有的解决方案大致可分为四类,且均存在不同程度的不足:

  这类技术主要通过嵌入信息的方式来验证数据来源,以此应对虚假信息带来的风险。例如,C2PA联盟借助加密手段,在媒体中嵌入可验证的来源信息;数字水印则用于标识机器生成的内容。然而,文本水印很容易被移除,而且这类技术仅适用于单个数据单元,难以覆盖多模态训练过程中产生的衍生或汇编数据。此外,对于版权、偏见等元数据需求,该技术也无法有效满足。

  Robots.txt协议扩展提案(如ai.txt、“noai”标签)以及谷歌、OpenAI推出的定制工具,为网站提供了设置数据使用偏好的功能。但这些工具的普及程度较低,并且仅支持“二元选择”,无法满足非商业使用等更为细致的需求。

  数据集说明书、数据声明与数据卡片对数据创作者、偏见、收集过程等文档记录进行了标准化处理;数据营养标签通过表单实现了自动化文档记录;数据与信任联盟标准则整合了多行业的需求,提供了结构化的记录方式以及谱系追踪功能。不过,这类标准在采纳过程中存在不均衡的情况,同时还存在准确性不足、缺乏激励措施等问题。

  当前的数据来源解决方案较为分散,缺乏系统性和协同性。若没有强大且资源充足的的数据来源追踪框架,开发者将难以从众多可能性中精准识别和评估数据集的安全性、版权影响以及相关性。同时,数据创作者也难以了解其内容的使用方式和具置。若没有数据集来源标准和完善的文档记录,构建这样的框架将会愈发困难,最终也难以实现预期目标。

  尽管现有的每一项解决方案都能为了解数据生态系统提供重要的见解,但仍然需要一个强大的框架来为数据集附加元数据,以便追踪数据集的混合、汇编和使用情况。不同利益相关者应积极采取行动,增强数据真实性、同意权和来源追踪应对未来挑战的能力。

  监管机构在通过政策和指导方针塑造人工智能未来方面发挥着关键作用。采用以数据为中心的人工智能监管方法,有助于识别和减轻关键风险。政策制定者可以为数据来源追踪相关研究提供资金支持,并集中精力记录和构建来源追踪基础设施。目前,不合理的法律激励因素阻碍了公司披露其数据信息,监管机构应考虑为组织提供必要的数据透明度制定法律或立法激励措施,并将标准化文档记录作为人工智能透明度义务的一部分。此类激励措施有助于推动建立数据真实性、同意权和来源追踪的通用且可互操作的标准。

  人工智能开发者处于创建模型的前沿阵地,因此在确保伦理实践方面承担着重大责任。开发者必须优先履行文档记录义务,并公开其训练数据的来源追踪信息。如果出于令人信服的商业原因需要保密,至少应发布有关数据来源追踪的汇总统计数据。这种透明度对于与用户和更广泛的社区建立信任,以及培育负责任的人工智能生态系统至关重要。

  这类主体在人工智能开发中发挥着关键作用,需要详细记录数据同意标准及来源追踪信息,包括数据来源与处理流程等。目前,已有专门的存储库和数据库用于登记此类信息,详实的记录能够有效协助人工智能开发者尊重相关权利、明晰数据属性。

  科研界在制定来源追踪披露规范与标准方面具有独特的优势和地位,可以将来源追踪披露纳入研究发表要求,以此补充可重复性清单相关工作,最终助力科学进步。

  事实上,单一利益相关方很难独立构建完善的数据来源追踪框架,唯有各方协作才能有效推动相关标准的制定。由各利益相关方代表组成的联盟,可以协调各类主体的行动,并推动特定标准的落地实施。这一模式可以参考主导万维网标准制定的万维网联盟(W3C),以及由多行业企业、机构组成的非营利联盟——数据与信任联盟。

  人工智能储能系统集成充电桩智慧充电运营平台新能源电动汽车新能源智慧信息化系统解决方案运营平台建设

  华远系统是致力于人工智能(AI算法以及流媒体技术),信息软件技术,新能源、物联网等领域的集成商,在智慧社区,智慧园区,智慧停车,充电桩(储能充电站/光储充)及充电桩软件管理平台,储能系统集成,车联网有整套解决方案以及成功的项目案例。

  说明:本文章所引用的资料均通过互联网等公开渠道合法获取,仅作为行业交流和学习使用,并无任何商业目的。其版权归原资料作者或出版社所有,小编不对所涉及的版权问题承担任何法律责任。若版权方、出版社认为本文章侵权,请立即联系小编删除。

  为持续净化辖区社会治安环境,严厉打击“涉黄”等违法犯罪行为,近日,辽宁省本溪市彩屯派出所接到群众举报,称彩屯某小区内存在卖淫嫖娼违法行为。

  近年来HPV越来越受关注尤其在女性群体中掀起了一股疫苗接种潮可能在很多人眼里HPV是女性病但实际上它是无差别攻击男人也会感染HPV!于是,谢玺先为他进行留置导尿,解除排尿痛苦的问题,同时赶紧取了肿块的活检送病理。

  【文/观察者网 齐倩】日本共同社2月13日获悉,去年11月高市“台湾有事”言论导致中日关系紧张后,日本海上保安厅(简称“海保”)就要求日本渔民避免前往中国海域进行捕鱼作业。此前有知情人士和日本渔民透露过这一消息,并称此举是为了避免进一步惹怒中国。

  大连市中山区委原副书记、区政府原区长王厚海严重违纪违法被开除党籍和公职

  日前,经辽宁省委批准,辽宁省纪委监委对大连市中山区委原副书记、区政府原区长王厚海严重违纪违法问题进行了立案审查调查。

  每口成本仅19元的普通锅具、每套成本仅32元的菜刀.....这些用低成本在网上买来的厨房用具竟被几名年轻人包装成售价698元、具备“神奇养生功效”的“高科技产品”骗了300多名老年人啥情况?一起来看近日披露的一起案件“只送不卖”的表演一场精心策划的骗局“厂家搞推广,免费送养生锅!

  王毅说中国人不接受高市早苗涉台错误言论:直接挑战中国的主权,直接背弃了承诺

  @CCTV国际时讯:中国外交部长王毅2月14日在慕尼黑安全会议上指出,日本首相涉台湾的错误言论,直接挑战中国的主权,直接背弃了它对中国的承诺,14亿中国人都不能接受。王毅说,如果日本不思悔改的话,势必会重蹈覆辙。

  随着美容服务受到越来越多消费者追捧,“颜值经济”也正在成为我国消费市场重要增长领域之一。然而,在美容服务行业快速发展过程中,也存在一些侵害消费者合法权益的突出问题。

  本以为是一场久别重逢的同学聚会,谁知竟是精心策划的“杀猪局”。近日,湖南省娄底市公安局钢城分局成功摧毁一个利用“下药”设赌局诈骗的犯罪团伙,抓获犯罪嫌疑人5名,揭开了一场以聚会为名、以毒品为器的骗局。

  国际峰会常有怪现象,越是高调宣称全球共识,越是容易看出大国线号在西班牙拉科鲁尼亚举行的第三届“军事领域人工智能”峰会就是这么回事:85个国家参加,最后只有35个国家在联合宣言上签字,中美两国都是军事AI的大国,但是都没有签字。

  王丽后来常说,春水姐是她人生中第一个贵人。那天,她刚从倒闭的玩具厂出来,厂门口还贴着“招工”两个字。她站了很久,才走。厂里欠着两个月工资,老板跑了。有人说“等等吧”。等了两个月,一分钱没等到。柳叶挺着肚子站在巷子口等她,说好姐妹春水开了个米粉店,缺人手。

  华远系统~前沿科技观察者,前沿技术的传播者,新能源汽车充电解决方案提供商(充电桩、充电(站)桩运营管理平台、储能系统),信息系统集成。