Yannic Kilcher
逐段拆解机器学习论文,并点评AI圈动态
- 论文解读
- 机器学习
- AI评论
- Transformer
- 观点鲜明
- 视频数
- 487
- 订阅者
- 33.3万
- 总观看次数
- 1832万
- 最新上传
- 2026年3月6日
- 独立页面
- 机器学习
- 内容语言: 英语
- 地区: 瑞士
这是 Youtop 运营的独立目录页面,并非由 Yannic Kilcher 或 YouTube 运营、赞助或认可。 YouTube 官方频道 ↗提交更正你是这位创作者吗?认领此页面
Loading
逐段拆解机器学习论文,并点评AI圈动态
这是 Youtop 运营的独立目录页面,并非由 Yannic Kilcher 或 YouTube 运营、赞助或认可。 YouTube 官方频道 ↗提交更正你是这位创作者吗?认领此页面
Yannic Kilcher 的官方播放列表
25:37Do ImageNet Classifiers Generalize to ImageNet? (Paper Explained)2020年4月27日
33:46Jukebox: A Generative Model for Music (Paper Explained)2020年5月2日
31:48TAPAS: Weakly Supervised Table Parsing via Pre-training (Paper Explained)2020年5月5日
22:15Reinforcement Learning with Augmented Data (Paper Explained)2020年5月6日
25:33Divide-and-Conquer Monte Carlo Tree Search For Goal-Directed Planning (Paper Explained)2020年5月8日
34:10Big Transfer (BiT): General Visual Representation Learning (Paper Explained)2020年5月9日
39:29Concept Learning with Energy-Based Models (Paper Explained)2020年5月11日
29:06Group Normalization (Paper Explained)2020年5月12日
39:18Faster Neural Network Training with Data Echoing (Paper Explained)2020年5月13日
19:16Weight Standardization (Paper Explained)2020年5月15日
24:59A critical analysis of self-supervision, or what we can learn from a single image (Paper Explained)2020年5月26日
51:19iMAML: Meta-Learning with Implicit Gradients (Paper Explained)2020年5月19日
13:02mixup: Beyond Empirical Risk Minimization (Paper Explained)2020年5月27日
35:22Planning to Explore via Self-Supervised World Models (Paper Explained)2020年5月17日
17:24Deep image reconstruction from human brain activity (Paper Explained)2020年5月25日
11:02Investigating Human Priors for Playing Video Games (Paper & Demo)2020年5月20日
53:35When BERT Plays the Lottery, All Tickets Are Winning (Paper Explained)2020年5月22日
29:58Regularizing Trajectory Optimization with Denoising Autoencoders (Paper Explained)2020年5月24日
40:57DETR: End-to-End Object Detection with Transformers (Paper Explained)2020年5月28日
1:04:30GPT-3: Language Models are Few-Shot Learners (Paper Explained)2020年5月29日
48:21Synthesizer: Rethinking Self-Attention in Transformer Models (Paper Explained)2020年5月31日
50:02Dynamics-Aware Unsupervised Discovery of Skills (Paper Explained)2020年6月1日
36:59On the Measure of Intelligence by François Chollet - Part 1: Foundations (Paper Explained)2020年6月2日
45:34Learning To Classify Images Without Labels (Paper Explained)2020年6月3日
25:22CornerNet: Detecting Objects as Paired Keypoints (Paper Explained)2020年6月5日
33:29Synthetic Petri Dish: A Novel Surrogate Model for Rapid Architecture Search (Paper Explained)2020年6月6日
31:35BLEURT: Learning Robust Metrics for Text Generation (Paper Explained)2020年6月7日
48:38TransCoder: Unsupervised Translation of Programming Languages (Paper Explained)2020年6月9日
40:49End-to-End Adversarial Text-to-Speech (Paper Explained)2020年6月10日
50:24Linformer: Self-Attention with Linear Complexity (Paper Explained)2020年6月11日
29:42VirTex: Learning Visual Representations from Textual Annotations (Paper Explained)2020年6月12日
30:50On the Measure of Intelligence by François Chollet - Part 2: Human Priors (Paper Explained)2020年6月19日
33:56On the Measure of Intelligence by François Chollet - Part 4: The ARC Challenge (Paper Explained)2020年7月3日
43:24On the Measure of Intelligence by François Chollet - Part 3: The Math (Paper Explained)2020年6月26日
24:37PCGRL: Procedural Content Generation via Reinforcement Learning (Paper Explained)2020年8月4日
36:49Deep Differential System Stability - Learning advanced computations from examples (Paper Explained)2020年6月13日
44:53SynFlow: Pruning neural networks without any data by iteratively conserving synaptic flow2020年6月14日
49:13A bio-inspired bistable recurrent cell allows for long-lasting memory (Paper Explained)2020年6月15日
49:41TUNIT: Rethinking the Truly Unsupervised Image-to-Image Translation (Paper Explained)2020年6月16日
33:46BYOL: Bootstrap Your Own Latent: A New Approach to Self-Supervised Learning (Paper Explained)2020年6月17日
31:47Image GPT: Generative Pretraining from Pixels (Paper Explained)2020年6月18日
37:31Big Self-Supervised Models are Strong Semi-Supervised Learners (Paper Explained)2020年6月20日
56:05SIREN: Implicit Neural Representations with Periodic Activation Functions (Paper Explained)2020年6月21日
36:42RepNet: Counting Out Time - Class Agnostic Video Repetition Counting in the Wild (Paper Explained)2020年6月23日
45:24How I Read a Paper: Facebook's DETR (Video Tutorial)2020年6月24日
46:13Discovering Symbolic Models from Deep Learning with Inductive Biases (Paper Explained)2020年6月25日
34:58Direct Feedback Alignment Scales to Modern Deep Learning Tasks and Architectures (Paper Explained)2020年6月27日
34:22Context R-CNN: Long Term Temporal Context for Per-Camera Object Detection (Paper Explained)2020年6月28日
59:18Set Distribution Networks: a Generative Model for Sets of Images (Paper Explained)2020年6月29日
40:35Self-training with Noisy Student improves ImageNet classification (Paper Explained)2020年7月29日
30:11Movement Pruning: Adaptive Sparsity by Fine-Tuning (Paper Explained)2020年6月4日
42:39Object-Centric Learning with Slot Attention (Paper Explained)2020年6月30日
1:13:04GShard: Scaling Giant Models with Conditional Computation and Automatic Sharding (Paper Explained)2020年7月1日
36:50BERTology Meets Biology: Interpreting Attention in Protein Language Models (Paper Explained)2020年7月2日
35:52SpineNet: Learning Scale-Permuted Backbone for Recognition and Localization (Paper Explained)2020年7月5日
48:06Transformers are RNNs: Fast Autoregressive Transformers with Linear Attention (Paper Explained)2020年7月4日
1:00:07SupSup: Supermasks in Superposition (Paper Explained)2020年7月7日
48:52Addendum for Supermasks in Superposition: A Closer Look (Paper Explained)2020年7月8日
34:12NVAE: A Deep Hierarchical Variational Autoencoder (Paper Explained)2020年7月9日
42:16Gradient Origin Networks (Paper Explained w/ Live Coding)2020年7月10日
46:32Deep Ensembles: A Loss Landscape Perspective (Paper Explained)2020年7月11日
39:12[Classic] Playing Atari with Deep Reinforcement Learning (Paper Explained)2020年7月26日
46:07[Classic] ImageNet Classification with Deep Convolutional Neural Networks (Paper Explained)2020年7月23日
37:04[Classic] Generative Adversarial Networks (Paper Explained)2020年7月19日
31:22[Classic] Word2Vec: Distributed Representations of Words and Phrases and their Compositionality2020年7月16日
31:21[Classic] Deep Residual Learning for Image Recognition (Paper Explained)2020年7月14日
35:06Neural Architecture Search without Training (Paper Explained)2020年7月21日
38:29What Matters In On-Policy Reinforcement Learning? A Large-Scale Empirical Study (Paper Explained)2020年8月20日
1:05:16Hopfield Networks is All You Need (Paper Explained)2020年8月9日
39:22Meta-Learning through Hebbian Plasticity in Random Networks (Paper Explained)2020年8月12日
1:00:41REALM: Retrieval-Augmented Language Model Pre-Training (Paper Explained)2020年8月14日
55:11Fast reinforcement learning with generalized policy updates (Paper Explained)2020年8月23日
36:02Radioactive data: tracing through training (Paper Explained)2020年8月26日
55:44Axial-DeepLab: Stand-Alone Axial-Attention for Panoptic Segmentation (Paper Explained)2020年8月28日
30:31Self-classifying MNIST Digits (Paper Explained)2020年9月2日
45:30Learning to summarize from human feedback (Paper Explained)2020年9月7日
52:11The Hardware Lottery (Paper Explained)2020年9月18日
53:36Training more effective learned optimizers, and using them to train themselves (Paper Explained)2020年10月3日
29:56An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale (Paper Explained)2020年10月4日
40:59Descending through a Crowded Valley -- Benchmarking Deep Learning Optimizers (Paper Explained)2020年10月11日
59:33LambdaNetworks: Modeling long-range Interactions without Attention (Paper Explained)2020年10月17日
54:39Rethinking Attention with Performers (Paper Explained)2020年10月26日
52:16Language Models are Open Knowledge Graphs (Paper Explained)2020年11月2日
59:22Underspecification Presents Challenges for Credibility in Modern Machine Learning (Paper Explained)2020年11月10日
1:05:33Fourier Neural Operator for Parametric Partial Differential Equations (Paper Explained)2020年11月22日
48:25Predictive Coding Approximates Backprop along Arbitrary Computation Graphs (Paper Explained)2020年11月29日
54:38DeepMind's AlphaFold 2 Explained! AI Breakthrough in Protein Folding! What we know (& what we don't)2020年12月1日
1:12:22ReBeL - Combining Deep Reinforcement Learning and Search for Imperfect-Information Games (Explained)2020年12月16日
1:03:18Extracting Training Data from Large Language Models (Paper Explained)2020年12月26日
55:46OpenAI DALL·E: Creating Images from Text (Blog Post Explained)2021年1月6日
48:07OpenAI CLIP: ConnectingText and Images (Paper Explained)2021年1月12日
33:47Switch Transformers: Scaling to Trillion Parameter Models with Simple and Efficient Sparsity2021年1月22日
52:09SingularityNET - A Decentralized, Open Market and Network for AIs (Whitepaper Explained)2021年1月29日
43:51Feedback Transformers: Addressing Some Limitations of Transformers with Feedback Memory (Explained)2021年2月2日
43:04Deep Networks Are Kernel Machines (Paper Explained)2021年2月4日
48:12Nyströmformer: A Nyström-Based Algorithm for Approximating Self-Attention (AI Paper Explained)2021年2月11日
34:26NFNets: High-Performance Large-Scale Image Recognition Without Normalization (ML Paper Explained)2021年2月14日
29:53TransGAN: Two Transformers Can Make One Strong GAN (Machine Learning Research Paper Explained)2021年2月17日
54:59Dreamer v2: Mastering Atari with Discrete World Models (Machine Learning Research Paper Explained)2021年2月19日
45:14DeBERTa: Decoding-enhanced BERT with Disentangled Attention (Machine Learning Paper Explained)2021年2月25日
51:38Linear Transformers Are Secretly Fast Weight Memory Systems (Machine Learning Paper Explained)2021年2月26日
1:03:26GLOM: How to represent part-whole hierarchies in a neural network (Geoff Hinton's Paper Explained)2021年2月27日
51:30Multimodal Neurons in Artificial Neural Networks (w/ OpenAI Microscope, Research Paper Explained)2021年3月5日
58:37Yann LeCun - Self-Supervised Learning: The Dark Matter of Intelligence (FAIR Blog Post Explained)2021年3月11日
34:02Pretrained Transformers as Universal Computation Engines (Machine Learning Research Paper Explained)2021年3月16日
29:36Perceiver: General Perception with Iterative Attention (Google DeepMind Research Paper Explained)2021年3月22日
48:18DreamCoder: Growing generalizable, interpretable knowledge with wake-sleep Bayesian program learning2021年4月11日
33:56NeRF: Representing Scenes as Neural Radiance Fields for View Synthesis (ML Research Paper Explained)2021年4月19日
36:41Why AI is Harder Than We Think (Machine Learning Research Paper Explained)2021年4月30日
39:13DINO: Emerging Properties in Self-Supervised Vision Transformers (Facebook AI Research Explained)2021年5月1日
30:54Involution: Inverting the Inherence of Convolution for Visual Recognition (Research Paper Explained)2021年5月8日
54:34DDPM - Diffusion Models Beat GANs on Image Synthesis (Machine Learning Research Paper Explained)2021年5月15日
41:45Expire-Span: Not All Memories are Created Equal: Learning to Forget by Expiring (Paper Explained)2021年5月24日
45:06Fast and Slow Learning of Recurrent Independent Mechanisms (Machine Learning Paper Explained)2021年5月29日
35:50Reward Is Enough (Machine Learning Research Paper Explained)2021年5月31日
56:49Decision Transformer: Reinforcement Learning via Sequence Modeling (Research Paper Explained)2021年6月5日
32:47Efficient and Modular Implicit Differentiation (Machine Learning Research Paper Explained)2021年6月11日
34:45AMP: Adversarial Motion Priors for Stylized Physics-Based Character Control (Paper Explained)2021年6月19日
35:40XCiT: Cross-Covariance Image Transformers (Facebook AI Machine Learning Research Paper Explained)2021年6月23日
1:14:21The Dimpled Manifold Model of Adversarial Examples in Machine Learning (Research Paper Explained)2021年6月27日
50:38How Apple scans your phone (and how to evade it) - NeuralHash CSAM Detection Algorithm Explained2021年8月16日
44:20PonderNet: Learning to Ponder (Machine Learning Research Paper Explained)2021年8月23日
35:30Fastformer: Additive Attention Can Be All You Need (Machine Learning Research Paper Explained)2021年8月26日
31:22ALiBi - Train Short, Test Long: Attention with linear biases enables input length extrapolation2021年9月2日
36:37∞-former: Infinite Memory Transformer (aka Infty-Former / Infinity-Former, Research Paper Explained)2021年9月6日
32:04Topographic VAEs learn Equivariant Capsules (Machine Learning Research Paper Explained)2021年9月20日
13:19Does GPT-3 lie? - Misinformation and fear-mongering around the TruthfulQA dataset2021年9月21日
26:00Inconsistency in Conference Peer Review: Revisiting the 2014 NeurIPS Experiment (Paper Explained)2021年9月27日
20:27How far can we scale up? Deep Learning's Diminishing Returns (Article Review)2021年10月2日
29:47Grokking: Generalization beyond Overfitting on small algorithmic datasets (Paper Explained)2021年10月6日
45:22Symbolic Knowledge Distillation: from General Language Models to Commonsense Models (Explained)2021年10月24日
29:25EfficientZero: Mastering Atari Games with Limited Data (Machine Learning Research Paper Explained)2021年11月3日
34:24Autoregressive Diffusion Models (Machine Learning Research Paper Explained)2021年11月10日
48:30Gradients are Not All You Need (Machine Learning Research Paper Explained)2021年11月16日
39:15Learning Rate Grafting: Transferability of Optimizer Tuning (Machine Learning Research Paper Review)2021年11月20日
59:19Implicit MLE: Backpropagating Through Discrete Exponential Family Distributions (Paper Explained)2021年11月27日
57:07Sparse is Enough in Scaling Transformers (aka Terraformer) | ML Research Paper Explained2021年12月2日
52:45NÜWA: Visual Synthesis Pre-training for Neural visUal World creAtion (ML Research Paper Explained)2021年12月8日
54:02Resolution-robust Large Mask Inpainting with Fourier Convolutions (w/ Author Interview)2021年12月18日
42:17GLIDE: Towards Photorealistic Image Generation and Editing with Text-Guided Diffusion Models2021年12月28日
54:11Player of Games: All the games, one algorithm! (w/ author Martin Schmid)2022年1月2日
1:23:51This Team won the Minecraft RL BASALT Challenge! (Paper Explanation & Interview with the authors)2022年1月11日
1:09:05Noether Networks: Meta-Learning Useful Conserved Quantities (w/ the authors)2022年1月19日
1:22:37Dynamic Inference with Neural Interpreters (w/ author interview)2022年1月21日
1:11:10Predicting the rules behind - Deep Symbolic Regression for Recurrent Sequences (w/ author interview)2022年1月29日
1:21:28Unsupervised Brain Models - How does Deep Learning inform Neuroscience? (w/ Patrick Mineault)2022年2月6日
1:17:05Language Models as Zero-Shot Planners: Extracting Actionable Knowledge for Embodied Agents (+Author)2022年2月8日
1:18:17HyperTransformer: Model Generation for Supervised and Semi-Supervised Few-Shot Learning (w/ Author)2022年2月16日
54:57AI against Censorship: Genetic Algorithms, The Geneva Project, ML in Security, and more!2022年2月16日
1:24:20CM3: A Causal Masked Multimodal Model of the Internet (Paper Explained w/ Author Interview)2022年2月17日
38:35Can Wikipedia Help Offline Reinforcement Learning? (Paper Explained)2022年2月26日
45:26Competition-Level Code Generation with AlphaCode (Paper Review)2022年3月1日
50:41OpenAI tackles Math - Formal Mathematics Statement Curriculum Learning (Paper Explained)2022年3月5日
1:36:40Spurious normativity enhances learning of compliance and enforcement behavior in artificial agents2022年3月8日
35:58VOS: Learning What You Don't Know by Virtual Outlier Synthesis (Paper Explained)2022年3月13日
35:59Author Interview - VOS: Learning What You Don't Know by Virtual Outlier Synthesis2022年3月14日
1:05:20Avoiding Catastrophe: Active Dendrites Enable Multi-Task Learning in Dynamic Environments (Review)2022年3月18日
46:41BLIP: Bootstrapping Language-Image Pre-training for Unified Vision-Language Understanding&Generation2022年3月23日
48:56Typical Decoding for Natural Language Generation (Get more human-like outputs from language models!)2022年3月25日
36:42Memory-assisted prompt editing to improve GPT-3 after deployment (Machine Learning Paper Explained)2022年3月28日
42:26Improving Intrinsic Exploration with Language Abstractions (Machine Learning Paper Explained)2022年4月1日
51:52Transformer Memory as a Differentiable Search Index (Machine Learning Research Paper Explained)2022年4月16日
44:06ACCEL: Evolving Curricula with Regret-Based Environment Design (Paper Review)2022年4月25日
28:47Do As I Can, Not As I Say: Grounding Language in Robotic Affordances (SayCan - Paper Explained)2022年4月30日
34:58Parti - Scaling Autoregressive Models for Content-Rich Text-to-Image Generation (Paper Explained)2022年6月23日
32:34Video PreTraining (VPT): Learning to Act by Watching Unlabeled Online Videos (Paper Explained)2022年6月26日
59:38JEPA - A Path Towards Autonomous Machine Intelligence (Paper Explained)2022年7月6日
55:07This is a game changer! (AlphaTensor by DeepMind explained)2022年10月7日
31:51Neural Networks are Decision Trees (w/ Alexander Mattick)2022年10月21日
1:04:59ROME: Locating and Editing Factual Associations in GPT (Paper Explained & Author Interview)2022年11月4日
51:33Galactica: A Large Language Model for Science (Drama & Paper Review)2022年11月19日
1:01:03CICERO: An AI agent that negotiates, persuades, and cooperates with people2022年11月25日
41:07LLaMA: Open and Efficient Foundation Language Models (Paper Explained)2023年3月2日
34:10GPT-4 is here! What we know so far (Full Analysis)2023年3月15日
24:34Scaling Transformer to 1M tokens and beyond with RMT (Paper Explained)2023年4月27日
29:29Tree of Thoughts: Deliberate Problem Solving with Large Language Models (Full Paper Review)2023年5月23日
1:02:17RWKV: Reinventing RNNs for the Transformer Era (Paper Explained)2023年6月2日
35:45Tree-Ring Watermarks: Fingerprints for Diffusion Images that are Invisible and Robust (Explained)2023年6月6日
53:07Reinforced Self-Training (ReST) for Language Modeling (Paper Explained)2023年9月3日
28:26Retentive Network: A Successor to Transformer for Large Language Models (Paper Explained)2023年9月13日
32:27Efficient Streaming Language Models with Attention Sinks (Paper Explained)2023年10月14日
45:44What is Q-Learning (back to basics)2023年11月25日
47:38Scalable Extraction of Training Data from (Production) Language Models (Paper Explained)2023年12月3日
37:06Text Embeddings Reveal (Almost) As Much As Text2023年12月9日
40:40Mamba: Linear-Time Sequence Modeling with Selective State Spaces (Paper Explained)2023年12月24日
31:45LLaMA Pro: Progressive LLaMA with Block Expansion (Paper Explained)2024年1月7日
34:32Mixtral of Experts (Paper Explained)2024年1月13日
35:27AlphaGeometry: Solving olympiad geometry without human demonstrations (Paper Explained)2024年1月21日
54:24Lumiere: A Space-Time Diffusion Model for Video Generation (Paper Explained)2024年2月4日
50:03V-JEPA: Revisiting Feature Prediction for Learning Visual Representations from Video (Explained)2024年2月19日
44:05Beyond A*: Better Planning with Transformers via Search Dynamics Bootstrapping (Searchformer)2024年4月6日
56:16Flow Matching for Generative Modeling (Paper Explained)2024年4月8日
37:17Leave No Context Behind: Efficient Infinite Context Transformers with Infini-attention2024年4月24日
37:01TransformerFAM: Feedback attention is working memory2024年4月28日
33:26ORPO: Monolithic Preference Optimization without Reference Model (Paper Explained)2024年5月1日
49:45Scalable MatMul-free Language Modeling (Paper Explained)2024年7月8日
1:03:56Privacy Backdoors: Stealing Data with Corrupted Pretrained Models (Paper Explained)2024年8月4日
53:02Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters (Paper)2024年10月5日
27:48Were RNNs All We Needed? (Paper Explained)2024年10月12日
37:06GSM-Symbolic: Understanding the Limitations of Mathematical Reasoning in Large Language Models2024年10月19日
28:23TokenFormer: Rethinking Transformer Scaling with Tokenized Model Parameters (Paper Explained)2024年11月23日
48:53Safety Alignment Should be Made More Than Just a Few Tokens Deep (Paper Explained)2024年12月10日
36:15Byte Latent Transformer: Patches Scale Better Than Tokens (Paper Explained)2024年12月24日
1:09:00[GRPO Explained] DeepSeekMath: Pushing the Limits of Mathematical Reasoning in Open Language Models2025年1月26日
54:05On the Biology of a Large Language Model (Part 1)2025年4月5日
56:26On the Biology of a Large Language Model (Part 2)2025年5月3日
47:51Energy-Based Transformers are Scalable Learners and Thinkers (Paper Review)2025年7月19日
37:49Context Rot: How Increasing Input Tokens Impacts LLM Performance (Paper Analysis)2025年7月23日
40:10[Paper Analysis] The Free Transformer (and some Variational Autoencoder stuff)2025年11月1日
32:31Titans: Learning to Memorize at Test Time (Paper Analysis)2025年12月14日
47:02TiDAR: Think in Diffusion, Talk in Autoregression (Paper Analysis)2025年12月27日