从闭环问题转向开环轨迹
奈奎斯特稳定判据是线性反馈系统的频域分析方法。以连续时间负反馈为例，把控制器、被控对象和反馈通道形成的环路传递函数记为L(s)，闭环特征关系为1+L(s)=0。判据利用L(s)的轨迹推断这一方程在右半平面的根数，而不必逐个求解闭环极点。
临界点是复平面中的−1+j0，因为L(s)=−1时恰好使1+L(s)为零。这一负一点来自所采用的负反馈符号，不能脱离框图和符号约定机械套用。奈奎斯特稳定判据研究反馈动态是否稳定，采样定理研究怎样从样本保留或重建信号，两者虽同用奈奎斯特之名，却不是同一结论。
极点数和环绕数必须一起计算
先考虑环路在虚轴上没有极点、闭环也没有虚轴极点的情形。选择顺时针围住右半平面的奈奎斯特闭合路径，将路径上各点经L(s)映射到复平面。对实系数系统，正负频率轨迹彼此共轭；计数针对完整闭合映射，不只是通常画出的正频率半条曲线。
记P为L(s)在右半平面的极点数，按重数计算；记N为映射绕−1点的净顺时针圈数，逆时针算负数；记Z为1+L(s)在右半平面的零点数。辐角原理给出Z=P+N。在没有被消去的不稳定内部模态等条件下，闭环稳定要求Z=0，即N=−P，并排除虚轴上的闭环极点。
因此，只有当P=0且其他边界条件满足时，不环绕−1才对应稳定。如果开环已有一个右半平面极点，就需要一次净逆时针环绕来使Z归零。若另一教材把逆时针定为正，公式的符号也会改变，不能只抄圈数而忽略方向约定。
一个开环不稳定的例子
取归一化模型L(s)=k/(s−1)，其中k>0，并采用单位负反馈。开环在s=1有一个不稳定极点，所以P=1。其频率轨迹L(jω)构成以实轴上−k和0为直径端点的圆；按上述奈奎斯特路径行进时，圆的方向为逆时针。
当k>1时，−1位于圆内，N=−1，因而Z=0。直接计算闭环传递函数k/(s−1+k)，其极点为1−k，确实位于左半平面。当0<k<1时，轨迹不围住−1，N=0，Z=1，闭环反而不稳定。这正说明“不环绕就稳定”的说法缺少开环极点条件。
k=1时轨迹经过−1，闭环极点位于原点，不能再把它算成普通的稳定情形。临界点恰在曲线上时，需要单独分析边界，而不是勉强判作某个环绕数。
使用判据的边界
若开环在虚轴上有极点，例如积分环节，路径需要适当绕避，绕避部分的映射也必须计入。增益裕度和相位裕度可帮助理解轨迹离临界点有多远，却不能在多次穿越或开环不稳定等复杂情形下取代完整计数。
频域判据还依赖所分析模型足以代表系统。未建模的时延或动态可能改变轨迹；非线性饱和也不由线性判据全面描述。使用约化传递函数时，应另查极零消去是否隐藏不稳定内部状态，避免把外部输入输出稳定误认为任何内部实现都安全。