Norm (mathematics)

If a norm ${\displaystyle p:X\to \mathbb {R} }$ is given on a vector space ${\displaystyle X,}$ then the norm of a vector ${\displaystyle z\in X}$ is usually denoted by enclosing it within double vertical lines: ${\displaystyle \|z\|=p(z)}$, as proposed by Stefan Banach in his doctoral thesis from 1920. Such notation is also sometimes used if ${\displaystyle p}$ is only a seminorm. For the length of a vector in Euclidean space (which is an example of a norm, as explained below), the notation ${\displaystyle |x|}$ with single vertical lines is also widespread.

The absolute value${\displaystyle |x|}$ is a norm on the vector space formed by the real or complex numbers. The complex numbers form a one-dimensional vector space over themselves and a two-dimensional vector space over the reals, and the absolute value is a norm for these two structures. For example, 1 as the basis and the complex numbers as scalars form a 1-dimensional vector space, while ${\textstyle \{1,i\}}$ as the basis and real numbers as scalars form a 2-dimensional vector space, and the absolute value ${\textstyle {\sqrt {x^{2}+y^{2}}}}$ of a complex number ${\displaystyle z=x+iy}$, where ${\displaystyle x}$ and ${\displaystyle y}$ are real numbers, form a norm.

Any norm ${\displaystyle p}$ on a one-dimensional vector space ${\displaystyle X}$ is equivalent (up to scaling) to the absolute value norm, meaning that there is a norm-preserving isomorphism of vector spaces ${\displaystyle f:\mathbb {F} \to X,}$ where ${\displaystyle \mathbb {F} }$ is either ${\displaystyle \mathbb {R} }$ or ${\displaystyle \mathbb {C} ,}$ and norm-preserving means that ${\displaystyle |x|=p(f(x)).}$ This isomorphism is given by sending ${\displaystyle 1\in \mathbb {F} }$ to a vector of norm ${\displaystyle 1,}$ which exists since such a vector is obtained by multiplying any non-zero vector by the inverse of its norm.

On the ${\displaystyle n}$-dimensional Euclidean space${\displaystyle \mathbb {R} ^{n},}$ the intuitive notion of length of the vector ${\displaystyle {\boldsymbol {x}}=\left(x_{1},x_{2},\ldots ,x_{n}\right)}$ is captured by the formula^[9]$${\displaystyle \|{\boldsymbol {x}}\|_{2}:={\sqrt {x_{1}^{2}+\cdots +x_{n}^{2}}}.}$$

This is the Euclidean norm, which gives the ordinary distance from the origin to the point X—a consequence of the Pythagorean theorem. This operation may also be referred to as "SRSS", which is an acronym for the square root of the sum of squares.^[10]

The Euclidean norm is by far the most commonly used norm on ${\displaystyle \mathbb {R} ^{n},}$^[9] but there are other norms on this vector space as will be shown below. However, all these norms are equivalent in the sense that they all define the same topology on finite-dimensional spaces.

The inner product of two vectors of a Euclidean vector space is the dot product of their coordinate vectors over an orthonormal basis. Hence, the Euclidean norm can be written in a coordinate-free way as $${\displaystyle \|{\boldsymbol {x}}\|:={\sqrt {{\boldsymbol {x}}\cdot {\boldsymbol {x}}}}.}$$

The Euclidean norm is also called the quadratic norm, ${\displaystyle L^{2}}$ norm,^[11]${\displaystyle \ell ^{2}}$ norm, 2-norm, or square norm; see ${\displaystyle L^{p}}$ space. It defines a distance function called the Euclidean length, ${\displaystyle L^{2}}$ distance, or ${\displaystyle \ell ^{2}}$ distance.

The set of vectors in ${\displaystyle \mathbb {R} ^{n+1}}$ whose Euclidean norm is a given positive constant forms an ${\displaystyle n}$-sphere.

There are exactly four Euclidean Hurwitz algebras over the real numbers. These are the real numbers ${\displaystyle \mathbb {R} ,}$ the complex numbers ${\displaystyle \mathbb {C} ,}$ the quaternions${\displaystyle \mathbb {H} ,}$ and lastly the octonions${\displaystyle \mathbb {O} ,}$ where the dimensions of these spaces over the real numbers are ${\displaystyle 1,2,4,{\text{ and }}8,}$ respectively. The canonical norms on ${\displaystyle \mathbb {R} }$ and ${\displaystyle \mathbb {C} }$ are their absolute value functions, as discussed previously.

The canonical norm on ${\displaystyle \mathbb {H} }$ of quaternions is defined by $${\displaystyle \lVert q\rVert ={\sqrt {\,qq^{*}~}}={\sqrt {\,q^{*}q~}}={\sqrt {\,a^{2}+b^{2}+c^{2}+d^{2}~}}}$$ for every quaternion ${\displaystyle q=a+b\,\mathbf {i} +c\,\mathbf {j} +d\,\mathbf {k} }$ in ${\displaystyle \mathbb {H} .}$ This is the same as the Euclidean norm on ${\displaystyle \mathbb {H} }$ considered as the vector space ${\displaystyle \mathbb {R} ^{4}.}$ Similarly, the canonical norm on the octonions is just the Euclidean norm on ${\displaystyle \mathbb {R} ^{8}.}$

On an ${\displaystyle n}$-dimensional complex space${\displaystyle \mathbb {C} ^{n},}$ the most common norm is $${\displaystyle \|{\boldsymbol {z}}\|:={\sqrt {\left|z_{1}\right|^{2}+\cdots +\left|z_{n}\right|^{2}}}={\sqrt {z_{1}{\bar {z}}_{1}+\cdots +z_{n}{\bar {z}}_{n}}}.}$$

In this case, the norm can be expressed as the square root of the inner product of the vector and itself: $${\displaystyle \|{\boldsymbol {x}}\|:={\sqrt {{\boldsymbol {x}}^{H}~{\boldsymbol {x}}}},}$$ where ${\displaystyle {\boldsymbol {x}}}$ is represented as a column vector${\displaystyle {\begin{bmatrix}x_{1}\;x_{2}\;\dots \;x_{n}\end{bmatrix}}^{\rm {T}}}$ and ${\displaystyle {\boldsymbol {x}}^{H}}$ denotes its conjugate transpose.

This formula is valid for any inner product space, including Euclidean and complex spaces. For complex spaces, the inner product is equivalent to the complex dot product. Hence the formula in this case can also be written using the following notation: $${\displaystyle \|{\boldsymbol {x}}\|:={\sqrt {{\boldsymbol {x}}\cdot {\boldsymbol {x}}}}.}$$

$${\displaystyle \|{\boldsymbol {x}}\|_{1}:=\sum _{i=1}^{n}\left|x_{i}\right|.}$$ The name relates to the distance a taxi has to drive in a rectangular street grid (like that of the New York borough of Manhattan) to get from the origin to the point ${\displaystyle x.}$

The set of vectors whose 1-norm is a given constant forms the surface of a cross polytope, which has dimension equal to the dimension of the vector space minus 1. The Taxicab norm is also called the ${\displaystyle \ell ^{1}}$ norm. The distance derived from this norm is called the Manhattan distance or ${\displaystyle \ell ^{1}}$ distance.

The 1-norm is simply the sum of the absolute values of the columns.

In contrast, $${\displaystyle \sum _{i=1}^{n}x_{i}}$$ is not a norm because it may yield negative results.

Let ${\displaystyle p\geq 1}$ be a real number. The ${\displaystyle p}$-norm (also called ${\displaystyle \ell ^{p}}$-norm) of vector ${\displaystyle \mathbf {x} =(x_{1},\ldots ,x_{n})}$ is^[9]$${\displaystyle \|\mathbf {x} \|_{p}:={\biggl (}\sum _{i=1}^{n}\left|x_{i}\right|^{p}{\biggr )}^{1/p}.}$$ For ${\displaystyle p=1,}$ we get the taxicab norm, for ${\displaystyle p=2}$ we get the Euclidean norm, and as ${\displaystyle p}$ approaches ${\displaystyle \infty }$ the ${\displaystyle p}$-norm approaches the infinity norm or maximum norm: $${\displaystyle \|\mathbf {x} \|_{\infty }:=\max _{i}\left|x_{i}\right|.}$$ The ${\displaystyle p}$-norm is related to the generalized mean or power mean.

For ${\displaystyle p=2,}$ the ${\displaystyle \|\,\cdot \,\|_{2}}$-norm is even induced by a canonical inner product${\displaystyle \langle \,\cdot ,\,\cdot \rangle ,}$ meaning that ${\textstyle \|\mathbf {x} \|_{2}={\sqrt {\langle \mathbf {x} ,\mathbf {x} \rangle }}}$ for all vectors ${\displaystyle \mathbf {x} .}$ This inner product can be expressed in terms of the norm by using the polarization identity. On ${\displaystyle \ell ^{2},}$ this inner product is the Euclidean inner product defined by $${\displaystyle \langle \left(x_{n}\right)_{n},\left(y_{n}\right)_{n}\rangle _{\ell ^{2}}~=~\sum _{n}{\overline {x_{n}}}y_{n}}$$ while for the space ${\displaystyle L^{2}(X,\mu )}$ associated with a measure space${\displaystyle (X,\Sigma ,\mu ),}$ which consists of all square-integrable functions, this inner product is $${\displaystyle \langle f,g\rangle _{L^{2}}=\int _{X}{\overline {f(x)}}g(x)\,\mathrm {d} x.}$$

This definition is still of some interest for ${\displaystyle 0<p<1,}$ but the resulting function does not define a norm,^[12] because it violates the triangle inequality. What is true for this case of ${\displaystyle 0<p<1,}$ even in the measurable analog, is that the corresponding ${\displaystyle L^{p}}$الفئة هي فضاء متجهي، ومن الصحيح أيضاً أن الدالة $${\displaystyle \int _{X}|f(x)-g(x)|^{p}~\mathrm {d} \mu }$$ (بدون${\displaystyle p}$يُعرّف الجذر النوني مسافة تجعل${\displaystyle L^{p}(X)}$إلى فضاء متجهي طوبولوجي متري كامل . تحظى هذه الفضاءات بأهمية بالغة في التحليل الوظيفي ، ونظرية الاحتمالات ، والتحليل التوافقي . مع ذلك، باستثناء الحالات البسيطة، فإن هذا الفضاء المتجهي الطوبولوجي ليس محدبًا محليًا، ولا يحتوي على أشكال خطية غير صفرية متصلة. وبالتالي، فإن الفضاء الثنائي الطوبولوجي لا يحتوي إلا على الدالة الصفرية.

المشتق الجزئي لـ${\displaystyle p}$يُعطى المعيار -norm بواسطة $${\displaystyle {\frac {\partial }{\partial x_{k}}}\|\mathbf {x} \|_{p}={\frac {x_{k}\left|x_{k}\right|^{p-2}}{\|\mathbf {x} \|_{p}^{p-1}}}.}$$

المشتق بالنسبة إلى${\displaystyle x,}$لذلك، هو $${\displaystyle {\frac {\partial \|\mathbf {x} \|_{p}}{\partial \mathbf {x} }}=\left({\frac {\mathbf {x} \circ |\mathbf {x} |^{p-2}}{\|\mathbf {x} \|_{p}^{p-1}}}\right)^{\top }.}$$ أين${\displaystyle \circ }$يشير إلى منتج هادامارد و${\displaystyle |\cdot |}$يُستخدم لحساب القيمة المطلقة لكل عنصر من عناصر المتجه.

في الحالة الخاصة لـ${\displaystyle p=2,}$يصبح هذا $${\displaystyle {\frac {\partial }{\partial x_{k}}}\|\mathbf {x} \|_{2}={\frac {x_{k}}{\|\mathbf {x} \|_{2}}},}$$ أو $${\displaystyle {\frac {\partial }{\partial \mathbf {x} }}\|\mathbf {x} \|_{2}=\left({\frac {\mathbf {x} }{\|\mathbf {x} \|_{2}}}\right)^{\top }.}$$

لو${\displaystyle \mathbf {x} }$هو متجه ما بحيث${\displaystyle \mathbf {x} =(x_{1},x_{2},\ldots ,x_{n}),}$ثم: $${\displaystyle \|\mathbf {x} \|_{\infty }:=\max \left(\left|x_{1}\right|,\ldots ,\left|x_{n}\right|\right).}$$

مجموعة المتجهات التي يكون معيارها اللانهائي ثابتًا معطى،${\displaystyle c,}$يشكل سطح مكعب فائق بطول حافة${\displaystyle 2c.}$

معيار الطاقة ^{[ 13 ]} للمتجه${\displaystyle {\boldsymbol {x}}=\left(x_{1},x_{2},\ldots ,x_{n}\right)\in \mathbb {R} ^{n}}$يتم تعريفها بدلالة مصفوفة متناظرة موجبة التحديد${\displaystyle A\in \mathbb {R} ^{n}}$مثل

$${\displaystyle {\|{\boldsymbol {x}}\|}_{A}:={\sqrt {{\boldsymbol {x}}^{T}\cdot A\cdot {\boldsymbol {x}}}}.}$$

من الواضح أنه إذا${\displaystyle A}$إذا كانت مصفوفة الوحدة ، فإن هذا المعيار يتوافق مع المعيار الإقليدي .${\displaystyle A}$إذا كان قطريًا، يُطلق على هذا المعيار أيضًا اسم المعيار الموزون . ويُستنتج معيار الطاقة من الضرب الداخلي المعطى بواسطة${\displaystyle \langle {\boldsymbol {x}},{\boldsymbol {y}}\rangle _{A}:={\boldsymbol {x}}^{T}\cdot A\cdot {\boldsymbol {y}}}$ل${\displaystyle {\boldsymbol {x}},{\boldsymbol {y}}\in \mathbb {R} ^{n}}$.

بشكل عام، تعتمد قيمة المعيار على نطاق${\displaystyle A}$: بالنسبة للمتجه${\displaystyle {\boldsymbol {x}}}$بمعيار إقليدي يساوي واحدًا، فإن قيمة${\displaystyle {\|{\boldsymbol {x}}\|}_{A}}$محصورة من الأسفل والأعلى بأصغر وأكبر القيم الذاتية المطلقة لـ${\displaystyle A}$على التوالي، حيث يتم تحقيق الحدود إذا${\displaystyle {\boldsymbol {x}}}$يتطابق مع المتجهات الذاتية (المُعَيَّرة) المناظرة. استنادًا إلى الجذر التربيعي للمصفوفة المتناظرة${\displaystyle A^{1/2}}$يمكن كتابة معيار الطاقة لمتجه بدلالة المعيار الإقليدي القياسي على النحو التالي:

$${\displaystyle {\|{\boldsymbol {x}}\|}_{A}={\|A^{1/2}{\boldsymbol {x}}\|}_{2}.}$$

في الاحتمالات والتحليل الوظيفي، يُنشئ المعيار الصفري طوبولوجيا مترية كاملة لفضاء الدوال القابلة للقياس وفضاء F للمتتاليات ذات المعيار F.${\textstyle (x_{n})\mapsto \sum _{n}{2^{-n}x_{n}/(1+x_{n})}.}$^{[ 14 ]} ونقصد هنابالمعيار Fدالة حقيقية القيمة${\displaystyle \lVert \cdot \rVert }$على مساحة F مع مسافة${\displaystyle d,}$بحيث${\displaystyle \lVert x\rVert =d(x,0).}$إن المعيار F الموصوف أعلاه ليس معيارًا بالمعنى المعتاد لأنه يفتقر إلى خاصية التجانس المطلوبة.

يؤدي تعميم المعايير المذكورة أعلاه إلى عدد لا نهائي من المكونات إلى${\displaystyle \ell ^{p}}$و${\displaystyle L^{p}}$مساحات لـ${\displaystyle p\geq 1\,,}$وفقًا للمعايير

$${\displaystyle \|x\|_{p}={\bigg (}\sum _{i\in \mathbb {N} }\left|x_{i}\right|^{p}{\bigg )}^{1/p}{\text{ and }}\ \|f\|_{p,X}={\bigg (}\int _{X}|f(x)|^{p}~\mathrm {d} x{\bigg )}^{1/p}}$$

بالنسبة للمتتاليات والدوال ذات القيم المركبة على${\displaystyle X\subseteq \mathbb {R} ^{n}}$على التوالي، والتي يمكن تعميمها بشكل أكبر (انظر مقياس هار ). هذه المعايير صالحة أيضًا في النهاية كما${\displaystyle p\rightarrow +\infty }$، مما يعطي معيارًا أعلى ، ويسمى${\displaystyle \ell ^{\infty }}$و${\displaystyle L^{\infty }\,.}$

أي منتج داخلي يحفز بشكل طبيعي القاعدة${\textstyle \|x\|:={\sqrt {\langle x,x\rangle }}.}$

يمكن العثور على أمثلة أخرى للفضاءات المتجهة المعيارية ذات الأبعاد اللانهائية في مقالة فضاء باناخ .

عموماً، لا تُعطي هذه المعايير نفس البنى الطوبولوجية. على سبيل المثال، بنية لا نهائية الأبعاد${\displaystyle \ell ^{p}}$ space gives a strictly finer topology than an infinite-dimensional ${\displaystyle \ell ^{q}}$ space when ${\displaystyle p<q\,.}$

Other norms on ${\displaystyle \mathbb {R} ^{n}}$ can be constructed by combining the above; for example $${\displaystyle \|x\|:=2\left|x_{1}\right|+{\sqrt {3\left|x_{2}\right|^{2}+\max(\left|x_{3}\right|,2\left|x_{4}\right|)^{2}}}}$$ is a norm on ${\displaystyle \mathbb {R} ^{4}.}$

For any norm and any injectivelinear transformation${\displaystyle A}$ we can define a new norm of ${\displaystyle x,}$ equal to $${\displaystyle \|Ax\|.}$$ In 2D, with ${\displaystyle A}$ a rotation by 45° and a suitable scaling, this changes the taxicab norm into the maximum norm. Each ${\displaystyle A}$ applied to the taxicab norm, up to inversion and interchanging of axes, gives a different unit ball: a parallelogram of a particular shape, size, and orientation.

In 3D, this is similar but different for the 1-norm (octahedrons) and the maximum norm (prisms with parallelogram base).

There are examples of norms that are not defined by "entrywise" formulas. For instance, the Minkowski functional of a centrally-symmetric convex body in ${\displaystyle \mathbb {R} ^{n}}$ (centered at zero) defines a norm on ${\displaystyle \mathbb {R} ^{n}}$ (see § Classification of seminorms: absolutely convex absorbing sets below).

All the above formulas also yield norms on ${\displaystyle \mathbb {C} ^{n}}$ without modification.

There are also norms on spaces of matrices (with real or complex entries), the so-called matrix norms.

Let ${\displaystyle E}$ be a finite extension of a field ${\displaystyle k}$ of inseparable degree${\displaystyle p^{\mu },}$ and let ${\displaystyle k}$ have algebraic closure ${\displaystyle K.}$ If the distinct embeddings of ${\displaystyle E}$ are ${\displaystyle \left\{\sigma _{j}\right\}_{j},}$ then the Galois-theoretic norm of an element ${\displaystyle \alpha \in E}$ is the value ${\textstyle \left(\prod _{j}{\sigma _{k}(\alpha )}\right)^{p^{\mu }}.}$ As that function is homogeneous of degree ${\displaystyle [E:k]}$, the Galois-theoretic norm is not a norm in the sense of this article. However, the ${\displaystyle [E:k]}$-th root of the norm (assuming that concept makes sense) is a norm.^[15]

يختلف مفهوم دائرة الوحدة (مجموعة جميع المتجهات ذات المعيار 1) باختلاف المعايير: ففي المعيار 1، تكون دائرة الوحدة مربعًا موجهًا على شكل معين؛ وفي المعيار 2 (المعيار الإقليدي)، تكون دائرة الوحدة المعروفة؛ أما في معيار اللانهاية، فتكون مربعًا محاذيًا للمحاور.${\displaystyle p}$وفقًا لمعيار -norm، فهو قطع ناقص فائق ذو محاور متطابقة (انظر الرسم التوضيحي المرفق). وبسبب تعريف المعيار، يجب أن تكون دائرة الوحدة محدبة ومتناظرة مركزيًا (لذلك، على سبيل المثال، قد تكون كرة الوحدة مستطيلة ولكن لا يمكن أن تكون مثلثًا، و${\displaystyle p\geq 1}$لـ${\displaystyle p}$-norm).

في سياق الفضاء المتجهي، يُعرّف المعيار الجزئي طوبولوجيا على هذا الفضاء، وهي طوبولوجيا هاوسدورف تحديدًا عندما يستطيع المعيار الجزئي التمييز بين متجهات مختلفة، وهو ما يُكافئ كون المعيار الجزئي معيارًا. يمكن فهم الطوبولوجيا المُعرّفة بهذه الطريقة (سواءً بواسطة معيار أو معيار جزئي) إما من حيث المتتاليات أو المجموعات المفتوحة. متتالية من المتجهات${\displaystyle \{v_{n}\}}$يقال إنها تتقارب في المعيار إلى${\displaystyle v,}$لو${\displaystyle \left\|v_{n}-v\right\|\to 0}$مثل${\displaystyle n\to \infty .}$بصورة مكافئة، تتكون الطوبولوجيا من جميع المجموعات التي يمكن تمثيلها كاتحاد كرات مفتوحة . إذا${\displaystyle (X,\|\cdot \|)}$إذا كان فضاءً معياريًا ^{[ 18 ]}${\displaystyle \|x-y\|=\|x-z\|+\|z-y\|{\text{ for all }}x,y\in X{\text{ and }}z\in [x,y].}$

معياران${\displaystyle \|\cdot \|_{\alpha }}$و${\displaystyle \|\cdot \|_{\beta }}$في فضاء متجهي${\displaystyle X}$تم الاتصال بـتكون متكافئة إذا أدت إلى نفس البنية الطوبولوجية، ^{[ 19 ]} وهو ما يحدث إذا وفقط إذا وُجدت أعداد حقيقية موجبة${\displaystyle C}$و${\displaystyle D}$بحيث يكون ذلك لجميع${\displaystyle x\in X}$$${\displaystyle C\|x\|_{\alpha }\leq \|x\|_{\beta }\leq D\|x\|_{\alpha }.}$$ على سبيل المثال، إذا${\displaystyle p>r\geq 1}$على${\displaystyle \mathbb {C} ^{n},}$ثم ^{[ 20 ]}$${\displaystyle \|x\|_{p}\leq \|x\|_{r}\leq n^{(1/r-1/p)}\|x\|_{p}.}$$

بخاصة، $${\displaystyle \|x\|_{2}\leq \|x\|_{1}\leq {\sqrt {n}}\|x\|_{2}}$$$${\displaystyle \|x\|_{\infty }\leq \|x\|_{2}\leq {\sqrt {n}}\|x\|_{\infty }}$$$${\displaystyle \|x\|_{\infty }\leq \|x\|_{1}\leq n\|x\|_{\infty },}$$ إنه، $${\displaystyle \|x\|_{\infty }\leq \|x\|_{2}\leq \|x\|_{1}\leq {\sqrt {n}}\|x\|_{2}\leq n\|x\|_{\infty }.}$$ إذا كان الفضاء المتجهي حقيقيًا أو مركبًا محدود الأبعاد، فإن جميع المعايير تكون متكافئة. أما في حالة الفضاءات المتجهة غير المحدودة الأبعاد، فلا تكون جميع المعايير متكافئة.

تُعرّف المعايير المتكافئة نفس مفاهيم الاستمرارية والتقارب، ولا داعي للتمييز بينها في كثير من الأحيان. بتعبير أدق، فإن البنية المنتظمة التي تُعرّفها المعايير المتكافئة على فضاء المتجهات متماثلة بشكل منتظم . يجب ألا يُفهم من هذا التكافؤ أن المعايير قابلة للتبادل دائمًا. ففي سياق ملاءمة النماذج، على سبيل المثال، قد تؤدي المعايير المختلفة إلى نتائج ملاءمة مختلفة وكفاءات خوارزمية متباينة.