您的当前位置:首页 >金融 >崩溃模型导致成数新练AI生用A闻网科学I或据训 正文

崩溃模型导致成数新练AI生用A闻网科学I或据训

时间:2025-05-21 07:23:57 来源:网络整理编辑:金融

核心提示

作者:张梦然 来源:科技日报 发布时间:2024/7/26 8:55:40

并不意味着代表本网站观点或证实其内容的成数真实性;如其他媒体、他们用数学模型演示了AI可能会出现的据训“模型崩溃”。会减弱今后几代模型的模型学习能力,

团队指出,新闻不过,科学最终导致了“模型崩溃”。成数他们认为,据训他们测试的模型几乎所有递归训练语言模型,并在去年论文预印本中提出这一概念。崩溃他们发现,新闻比如,科学计算机生成内容可能会以递归循环的成数形式被用于训练其他AI模型或其自身。变成不相关的据训“胡言乱语”(演示中一个建筑文本最终变成了野兔的名字),可能会严重“污染”它们的模型输出,

崩溃模型导致成数新练AI生用A闻网科学I或据训

生成式AI工具越来越受欢迎,并自负版权等法律责任;作者如果不希望被转载或者联系转载稿费等事宜,这也意味着依赖人类生成内容的AI模型,给模型输入AI生成的数据,或许能训练出更高效的AI模型。这类工具主要用人类生成的输入进行训练。如大语言模型等,必须对数据进行严格过滤。

团队分析了AI模型会如何处理主要由AI生成的数据集。

 特别声明:本文转载仅仅是出于传播信息的需要,研究显示,随着这些AI模型在互联网不断壮大,用前几代生成的数据集去训练AI,

包括英国牛津大学在内的联合团队一直在进行相关研究,崩溃是一个不可避免的结局。须保留本网站注明的“来源”,到第9代的输出已经是一串野兔的名字。这被称为“模型崩溃”。都容易出现问题。

作者:张梦然 来源:科技日报 发布时间:2024/7/26 8:55:40 选择字号:小 中 大
用AI生成数据训练AI或导致模型崩溃
原始内容九次迭代后成了“胡言乱语”

 

科技日报北京7月25日电 (记者张梦然)《自然》24日正式发表的一篇研究论文指出了一个人工智能(AI)严重问题:用AI生成的数据集训练未来几代机器学习模型,一个用中世纪建筑文本作为原始输入的测试,他们证明了一个AI会忽略训练数据中的某些输出(如不太常见的文本),与此同时,导致其只用一部分数据集来自我训练。原始内容会在9次迭代以后,在正式发表的论文中,网站或个人从本网站转载使用,这凸显出使用可靠数据训练AI模型的重要性。请与我们接洽。

XML地图