高飞
24-06-17 12:17 微博认证:至顶科技创始人 AI博主

#亚马逊正在让员工帮助收集GitHub数据##模型时代#
编码数据就是模型训练中一个很重要的门类。相比其他数据,编码数据比较集中化,比如GitHub就是一个很重要的矿区。
《商业内幕》刚做了一个报道,该公司最近正告诉员工注册、分享自己微软 GitHub 平台账户,这样亚马逊就能更快地从 GitHub搜刮数据。真是人人都缺数据的时代,连亚马逊这样的巨头也不例外。

1、亚马逊首席科学家兼AGI集团高级副总裁罗希特-普拉萨德(Rohit Prasad)正在鼓励员工分享他们的GitHub账户,以帮助 "收集更多高质量的代码数据,用于训练我们的基础模型"。另一封来自亚马逊 AGI 主管的电子邮件敦促员工:"只需 5 分钟!"

2、为什么要员工参与呢。因为一个 GitHub 账户每小时只能发出 5000 次数据收集请求。亚马逊内部备忘录说,GitHub 上有超过 1.5 亿个公共数据存储库,因此这些账户限制意味着,要收集所有这些信息将耗费太长时间。

3、根据备忘录,亚马逊可以同时运行所有这些账户,将收集数据的时间缩短到 "几周”,”用一个账户获取所有这些数据需要很多年的时间。"为了提高收集元数据的速度,我们要求团队成员创建 GitHub 账户并共享 API 密钥。

4、亚马逊在内部备忘录中写道,GitHub 的变通方法得到了公司法律和安全团队的批准。备忘录称,对于有兴趣提供帮助的员工,他们应该使用亚马逊的工作邮箱而不是个人账户注册 GitHub。

5、去年,亚马逊首席执行官安迪-贾西(Andy Jassy)在一封内部邮件中写道,普拉萨德将领导新成立的 AGI 团队,目标是为公司建立 "最广泛的 "大型语言模型。普拉萨德现在直接向贾西汇报工作。

发布于 韩国