在错误的数据上,刷到 SOTA 又有什么意义? 9
小编注:前段时间,小屋介绍了吴恩达老师近期发起的以数据为中心的 AI 竞赛(参见《吴恩达发起新型竞赛范式!模型固定,只调数据?!》)。吴恩达老师认为:工业界已经具备较为成熟的算法和代码体系,现在更加缺少的是一套成熟的构建工业化数据集的方法论。然而,正如图灵奖得主 Judea Pearl 教授所质疑的那样:“在不知道什么是质量更好的数据的基础上提升数据质量是不太现实的”。对于这个问题,本文作者由关系...
小编注:前段时间,小屋介绍了吴恩达老师近期发起的以数据为中心的 AI 竞赛(参见《吴恩达发起新型竞赛范式!模型固定,只调数据?!》)。吴恩达老师认为:工业界已经具备较为成熟的算法和代码体系,现在更加缺少的是一套成熟的构建工业化数据集的方法论。然而,正如图灵奖得主 Judea Pearl 教授所质疑的那样:“在不知道什么是质量更好的数据的基础上提升数据质量是不太现实的”。对于这个问题,本文作者由关系...
从5月初开始,CV圈似乎开始了一阵MLP“文艺复兴”的热潮:在短短4天时间里,来自谷歌、清华、牛津、Facebook四个顶级研究机构的研究者分别独立发布了4篇关于MLP结构在图像任务上取得不错效果的论文。虽然研究本身令人兴奋,但发表的过程却让人一言难尽:来自牛津的小哥Luke就在reddit上抱怨到他正在进行的实验被谷歌的MLP-Mixer抢先发表(scoop)了,所以他正在撰写的实验总结也只能以...
小编注:不知道大家还记不记得卖萌屋之前人在斯坦福,刚上CS224n的Jazon小哥发来的关于斯坦福神课CS224n上半学期的报道?今天,Jazon又在斯坦福前线发来了关于他在CS224n下半学期的经历,那么现在让我们把画面交给Jazon,看看大佬的课程作业是怎么完成的吧! 上篇文章提到我在 Stanford 上 NLP “神课” CS224n,课程的前半学期以上课、写作业为主,而后半学期则基本都是...
如果老板派给你一个任务,不使用一张图片,让你训练一个视觉预训练模型,你会不会觉得老板疯了。最近有一篇论文,不仅没用一张真实图片和标注,还训练出个媲美SOTA的效果,甚至超过了MoCov2和SimCLRv2,你敢信么?今天,就让我们来看一下这篇神作! 论文题目: Can Vision Transformers Learn without Natural Images? 论文链接: https://a...
导言 最近ICLR的rebutal 前后分数对比出来了,很多评委都改了分数,有改多的,也有改少的。今天给大家介绍的这篇高分论文竟然在rebuttal前后都保持高分,证明评委们对它的认可程度是很高的。 实体检索任务的定义是:对于一个给定的输入文本,需要模型从一个候选实体集中找到最相关的候选实体。 比如说,给定输入 : "In 1503, Leonardo began painting the Mon...
推广返利