喂你脚下有坑 1年前 Materials Meta-Learning Online Meta-Learning [ICML’19] 本文将 Online Learning 与 Meta-Learning 进行了结合，提出了一种新的在线学习范式：在线元学习。在这一范式之下，本文提出了 Follow The Meta Leader 算法 (FTML) 将 MAML 算法拓展至在线场景，并给出了 \(O(log T)\) 的遗憾界。 […] 机器学习 245 0 11
喂你脚下有坑 1年前 Multi-Objective Pareto RecSys 📖 Materials A Pareto-Eficient Algorithm for Multiple Objective Optimization in E-Commerce Recommendation 本文利用 Pareto Efficiency 的相关技术应用到推荐系统中，来解决推荐系统中不同优化指标不一致的问题，最终能够求得一个 Pareto Frontier 供用户选择想要的指标性能组合。 Pareto Frontier 相关定义 问题定义： 给定一个系统，期望最小化一系列目标函数：\(f_ […] 机器学习 265 0 0
喂你脚下有坑 1年前 IJCAI Label Distribution Noisy Labels 📖 Materials Label Distribution for Learning with Noisy Labels [IJCAI’20] 根据标记分布计算样本置信度，加强模型区分正确与错误样本的能力。 背景与问题 本文进一步探索了噪声学习中的关键问题，即，如何准确地区分噪声样本与干净样本。作者根据标记分布 (Label Distribution) 提出了一种样本置信度的估计方法 LDCE (Label Distribution bas […] 机器学习 247 0 1
喂你脚下有坑 1年前 AAAI Open ML Unknown Unknowns Exploratory Machine Learning with Unknown Unknowns [AAAI’21] 问题 本文作者考虑了一种训练数据中可能包含未知类导致模型性能下降的潜在情形，即，由于数据特征信息量不足导致标记空间被错误指定，并进而使模型无法准确感知未见类样本。 如下图例子所示，真实标记空间存在 A、P、L 三种疾病。由于社区医疗中心的医疗检测手段有限（例如无法照 X 光），其仅能检测 A、P 两 […] 机器学习 253 0 1
喂你脚下有坑 1年前 域自适应 流数据 论文笔记 Continuous Manifold Based Adaptation for Evolving Visual Domains 论文简述 本文考虑了一种域连续变化的复杂场景，例如：对视频流中物体、场景分类，同一类别物体将持续收到环境中光照、气候、传感器的变化等因素影响。在随时间演变的环境下，对物体、场景分类时，不同类别物体的视 机器学习 415 0 2
喂你脚下有坑 1年前 域自适应 理论分析 论文笔记 Domain adaptation under structural causal models 本文为 Domain Adaptation 领域从结构化因果模型 (SCM) 的角度建立了一套理论框架，为分析与对比现有的各类DA方法提供理论上的支持。 本文认为基于域不变投影的方法 (DIP, Do 机器学习 383 0 0
喂你脚下有坑 2年前 理论分析 自监督学习 论文笔记 Towards the Generalization of Contrastive Self-supervised Learning 什么样的特征空间有利于下游任务的泛化性 自监督学习 自监督学习是输入若干独立同分布采样自未知分布的无标记样本，来自潜在的 $K$ 个类别 $C_1, C_2, \ldots, C_K$，基于一系列增广操作 $A$，为每个样本 $x$ 生成其正样本 $A(x)$，学习一个特征表示 $f(\cdot)$ […] 机器学习 601 0 9
喂你脚下有坑 2年前 线性代数 逻辑回归 Logistic Regression 似然函数凸性证明 Logistic Regression，简称逻辑回归，是一种简单且有效的分类模型。对于数据集 $D = \left \{ \boldsymbol{x}_i, y_i\right \}_{i=1}^n$ 其中 $y_i\in\{0, 1\}$，我们使用函数 $y = \frac{1}{1 + e^{- […] 机器学习 582 0 0
喂你脚下有坑 3年前 优化方法 ADMM：Alternating Direction Method of Multipliers 问题定义 \begin{aligned} \mathop{\min}\limits_{x, z} & f(x) + g(z)\\ s.t. & Ax+Bz = b \end{aligned} 其中 $x \in \mathbb R^n, z \in \mathbb R^m, A \i […] 机器学习 1.03k 0 105
喂你脚下有坑 3年前 2018 NeurIPS SSL 半监督学习 论文笔记 Realistic Evaluation of Deep Simi-Supervised Learning Algorithms 最近要开始做深度半监督的实验了，偶然在网上看到了这篇文章，文章还没看几行就感觉戳中了自己之前做半监督实验的各种痛点。本文对于如何规范的比较半监督模型有一定的启发意义。 原文的 Github 地址：https://github.com/brain-research/realistic-ssl-eval […] 机器学习 943 0 6
