数学の分野における核作用素（かくさようそ、英: Nuclear operator）とは、基底の選び方に依らない有限のトレースを定義出来るような、あるコンパクト作用素のことを言う（ただし、この定義は少なくとも well-behaved な空間におけるものであって、いくつかの空間においては核作用素にトレースが存在しないこともある）。核作用素は、本質的にはトレースクラス作用素と同じものであるが、多くの研究者は「トレースクラス作用素」という呼び名を、特別な場合としてのヒルベルト空間上の核作用素に対して用いている。核作用素の、一般的なバナッハ空間における定義はアレクサンドル・グロタンディークによって与えられた。この記事では、一般的なバナッハ空間上の核作用素について扱う。より重要な、ヒルベルト空間上の核作用素（すなわち、トレースクラス作用素）については、トレースクラス作用素の記事を参照されたい。

ヒルベルト空間 ${\displaystyle {\mathcal {H))}$ 上の作用素

${\displaystyle {\mathcal {L)):{\mathcal {H))\to {\mathcal {H))}$

は、次のような形式で記述できるとき、コンパクト作用素であると言われる^[要出典]：

${\displaystyle {\mathcal {L))=\sum _{n=1}^{N}\rho _{n}\langle f_{n},\cdot \rangle g_{n))$

ここで ${\displaystyle 1\leq N\leq \infty }$ であり、${\displaystyle f_{1},\ldots ,f_{N))$ と ${\displaystyle g_{1},\ldots ,g_{N))$ は（必ずしも完備ではない）正規直交集合を表す。${\displaystyle \rho _{1},\ldots ,\rho _{N))$ は実数の集合で、それらは ${\displaystyle N=\infty }$ に対して ${\displaystyle \rho _{n}\to 0}$ となるような、作用素の特異値である。ブラケット ${\displaystyle \langle \cdot ,\cdot \rangle }$ は、ヒルベルト空間上のスカラー積を表す。右辺の和は、ノルムについて収束するものとする。

上で定義されたようなコンパクト作用素は

${\displaystyle \sum _{n=1}^{\infty }\rho _{n}<\infty }$

が成立するとき、核（nuclear）あるいはトレースクラス（trace-class）であると言われる。

ヒルベルト空間上の核作用素には、そのトレースが有限で、基底の選び方に依存しない、という重要な性質がある。ヒルベルト空間において、与えられた任意の正規直交基底 ${\displaystyle \{\psi _{n}\))$ に対して、そのトレースを次のように定義することが出来る：

${\displaystyle {\mbox{Tr)){\mathcal {L))=\sum _{n}\langle \psi _{n},{\mathcal {L))\psi _{n}\rangle .}$

これはなぜかと言うと、右辺の和は絶対収束し、また基底に依存していないからである^[要出典]。また、このトレースは、${\displaystyle {\mathcal {L))}$ の（重複も含めた）固有値すべての和と等しい。

より主要な内容については、フレドホルム核を参照。

トレースクラス作用素の定義は、1955年、アレクサンドル・グロタンディークによって一般的なバナッハ空間へと拡張された。

A と B をバナッハ空間とする。A' を、A の双対、すなわち、通常のノルムを備える A 上のすべての連続あるいは（同値であるが）有界作用素の集合とする。このとき、作用素

${\displaystyle {\mathcal {L)):A\to B}$

は、${\displaystyle \Vert g_{n}\Vert \leq 1}$ を満たすベクトルの列 ${\displaystyle \{g_{n}\}\in B}$ と、${\displaystyle \Vert f_{n}^{*}\Vert \leq 1}$ を満たす汎函数の列 ${\displaystyle \{f_{n}^{*}\}\in A'}$ および

${\displaystyle \inf \left\{p\geq 1:\sum _{n}|\rho _{n}|^{p}<\infty \right\}=q}$

を満たす複素数の列 ${\displaystyle \{\rho _{n}\))$ が存在して、

${\displaystyle {\mathcal {L))=\sum _{n}\rho _{n}f_{n}^{*}(\cdot )g_{n))$

のように書き表すことが出来るとき、次数 q の核と呼ばれる。ここで、上式の和は作用素ノルムについて収束するものとする。

発展例として、A = B であるとき、そのような核作用素に対してトレースを定義できることもある。

次数 1 の核であるような作用素は、核作用素と呼ばれる。それらは、級数 ∑ρ_n が絶対収束するようなものである。次数 2 の核であるような作用素は、ヒルベルト＝シュミット作用素と呼ばれる。

より一般的に、局所凸位相ベクトル空間 A からバナッハ空間 B への作用素は、0 のある固定された近傍上ですべての f_n^* が 1 によって上から評価され、また 0 のある固定された近傍上ですべての g_n が 1 によって上から評価されるという条件を、上述の条件に付帯する形で満たすとき、核と呼ばれる。

• A. Grothendieck (1955), Produits tensoriels topologiques et espace nucléaires,Mem. Am. Math.Soc. 16. MR0075539
• A. Grothendieck (1956), La theorie de Fredholm, Bull. Soc. Math. France, 84:319-384. MR0088665
• A. Hinrichs and A. Pietsch (2010), p-nuclear operators in the sense of Grothendieck, Mathematische Nachrichen 283: 232-261. doi:10.1002/mana.200910128 MR2604120
• G. L. Litvinov (2001), “Nuclear operator”, in Hazewinkel, Michiel, Encyclopedia of Mathematics, Springer, ISBN 978-1-55608-010-4, https://www.encyclopediaofmath.org/index.php?title=Nuclear_operator 

表 話 編 歴 関数解析学
集合 / 部分集合のタイプ	均衡 星状 絶対凸 凸 併呑 有界（英語版） 放射状（英語版） 対称（英語版） 線型錐（部分集合） 凸錐（部分集合）
線型位相空間のタイプ	バナッハ 樽型 界相 Brauner（英語版） F-空間 有限次元 フレシェ (tame) ヒルベルト LF空間 局所凸 マッキー（英語版） モンテル 核型 ノルム付き（ノルム） 準ノルム付き 回帰的 リース スミス（英語版） Stereotype（英語版） ウェブ付き 位相テンソル積（英語版）（ヒルベルト空間の（英語版））
位相	双対 双対空間 作用素 強（極 作用素） Ultrastrong（英語版） 弱（作用素） Ultraweak（英語版） 一様収束（英語版）
線型作用素	随伴 双線型（形式） 有界 / 非有界 閉（英語版） 連続 / 不連続 コンパクト フレドホルム ヒルベルト＝シュミット 汎関数（正（英語版）） 正規 核 自己共役 Strictly singular（英語版） トレースクラス 転置 ユニタリ
集合の操作	代数的内部（核） 内部 ミンコフスキー和（英語版） 極
バナッハ環	C*-環 スペクトル（C*-環（英語版） 半径) スペクトル理論
定理	Eberlein–Šmulian（英語版） 開写像 角谷の不動点 ゲルファント＝マズール コーシー＝シュワルツの不等式 Goldstine（英語版） シャウダーの不動点 パーセヴァルの等式 ハーン–バナッハ（分離超平面） バナッハ＝アラオグル Banach–Saks（英語版） Banach–Mazur（英語版） フロイデンタールのスペクトル 閉値域 閉グラフ ベッセルの不等式 マッキー＝アレンス マズールの補題 リースの拡張 Lomonosov's invariant subspace（英語版） ニュートン＝カントロビッチ
解析	ボホナー空間 フレシェ空間における微分（英語版） 微分（フレシェ ガトー 汎函数 holomorphic（英語版）） 積分（ボホナー Dunford ゲルファント＝ペティス 方正 弱) 汎函数計算（Borel（英語版） continuous（英語版） holomorphic（英語版）） 逆函数定理（Nash–Moser theorem（英語版）） ベクトル測度
応用	量子力学の数学的定式化 有限要素法 偏微分方程式の解に対する精度保証付き数値計算
日本人研究者	加藤敏夫 吉田耕作 藤田宏 増田久弥
海外の研究者	リース・フリジェシュ ステファン・バナフ ダフィット・ヒルベルト イズライル・ゲルファント ピーター・ラックス
カテゴリ