本論文の概要、動機： Multiple Instance Learningにおいて、bagに含まれるinstanceに複数種の正例や外れ値がある場合は従来法は性能が大幅に悪化する。本論文では、複数種の正例に対応できるように混合Gaussian Process（以下、GP）、また外れ値に対応でき…

本論文の概要： シミュレーションやWeb検索などのシステムを構成要素として持つLLMは、専門家が微調整して最適化されたものが多く、LLMを用いた複合的なシステムの構築にあたっては自動的に最適化する方法が必要である。これまでのニューラルネットワークで…

定理 $A \in \mathbb{R}^{n \times n}, \operatorname{rank}(A) = r$ で対角化可能な行列とする。この時、サイズ$n$でランクが $1$ の正方行列 $A_1, A_2, A_3, \ldots, A_r$ が存在し、以下を満たす。 $$ A = A_1 + A_2 + A_3 + \cdots + A_r \notag $$ さ…

定理 $f, g : \mathbb{R}^n \to \mathbb{R}$を二次関数とし、ある $\bar{x} \in \mathbb{R}^n$ に対して$g(\bar{x}) < 0$ であると仮定する。このとき、以下の二つの命題は同値である。 １. $\mathbb{R}^n$ 内の$x$について次の条件を満たすものは存在しない…

定理 $f, g: \mathbb{R}^n \to \mathbb{R}$が同次二次関数であると仮定する。このとき、集合$\mathcal{M} = \lbrace (f(x), g(x)) : x \in \mathbb{R}^n \rbrace \subset \mathbb{R}^2$は凸である。 方針 凸性の定義を直接確認して証明する。 凸性の証明にあ…

定理 凸集合 $C$ の次元は、$C$ に含まれる様々な単体の次元の最大値である。 方針 $C$に含まれる単体の中で最大次元を持つものが、$C$のアフィン包であることを示す。 証明 $\forall c \subset C \Rightarrow \text{conv}(c) \subset C$より、$C$には単体が…

本論文の概要： Distributionally Robust Chance-Constrained Optimizationの不確実集合をMLACKを用いたMMDで定義し、それをCVaRで近似した論文。 研究の動機： 確率制約付きの最適化問題は広く用いられているが、正確に確率分布を知っている必要があるため…

* 本論文の概要： 敵対的サンプルやパターンの丸暗記に有効であり、かつ簡便に実施できるデータ拡張手法*mixup*を提案した論文。 * 研究の動機： 成功したDeepLearningの例にて見られるものは、経験誤差の最小化や学習データの数に応じてモデルを大きくした…