转载:GoogleBrain提出新型生成建模算法MemGEN:只需记忆,性能突出
2018-04-11 09:23阅读:
Google Brain提出新型生成建模算法MemGEN:只需记忆,性能突出
原创 机器之心 2018-04-10 12:08:44
近日,谷歌大脑在 arXiv 上发表论文,提出新型生成建模算法 MemGEN。该算法使用研究者提出的新型学习范式「Deep Memory」,通过记忆模仿人类行为。该范式在生成建模任务上实现的算法 MemGEN 优点突出,性能很好。
论文:MemGEN: Memory is All You Need
Google Brain提出新型生成建模算法MemGEN:只需记忆,性能突出
论文链接:https://arxiv.org/abs/1803.11203
摘要:我们提出了一种叫做深度记忆(deep memory)的新型学习范式。它有可能彻底变革机器学习领域。令人惊讶的是,与深度学习不同,该范式还没有被重新改造。这个方法的核心是「背诵」(Learning By Heart)原则,这一原则在世界各地的小学得到了很好的研究。受诗歌背诵或圆周率小数点记忆的启发,我们提出了一种模仿人类行为的具体算法。我们在生成建模的任务上实现了该范式,该范式可应用于图像、自然语言甚至π小数点记忆,只要将它们打印成文本。该算法甚至在单样本学习环境下生成了该论文。我们精心设计的实验表明,在任何统计测试或分析时,我们都难以区分生成的样本与训练样本。
1 引言
我们遵循由 [LaLoudouana and Tarare, 2003] 开始、经 [Albanie et al., 2017] 和 [Garfinkel et al., 2017] 扩展的科研基本路线。受这些方法启发,我们关注生成建模的最终目标:输出与输入同分布。「垃圾输入
原创 机器之心 2018-04-10 12:08:44
近日,谷歌大脑在 arXiv 上发表论文,提出新型生成建模算法 MemGEN。该算法使用研究者提出的新型学习范式「Deep Memory」,通过记忆模仿人类行为。该范式在生成建模任务上实现的算法 MemGEN 优点突出,性能很好。
论文:MemGEN: Memory is All You Need
Google Brain提出新型生成建模算法MemGEN:只需记忆,性能突出
论文链接:https://arxiv.org/abs/1803.11203
摘要:我们提出了一种叫做深度记忆(deep memory)的新型学习范式。它有可能彻底变革机器学习领域。令人惊讶的是,与深度学习不同,该范式还没有被重新改造。这个方法的核心是「背诵」(Learning By Heart)原则,这一原则在世界各地的小学得到了很好的研究。受诗歌背诵或圆周率小数点记忆的启发,我们提出了一种模仿人类行为的具体算法。我们在生成建模的任务上实现了该范式,该范式可应用于图像、自然语言甚至π小数点记忆,只要将它们打印成文本。该算法甚至在单样本学习环境下生成了该论文。我们精心设计的实验表明,在任何统计测试或分析时,我们都难以区分生成的样本与训练样本。
1 引言
我们遵循由 [LaLoudouana and Tarare, 2003] 开始、经 [Albanie et al., 2017] 和 [Garfinkel et al., 2017] 扩展的科研基本路线。受这些方法启发,我们关注生成建模的最终目标:输出与输入同分布。「垃圾输入
