С  математической точки зрения, искусственный нейрон обычно представляют как некоторую нелинейную функцию от единственного аргумента — линейной комбинации  всех входных сигналов. Полученный результат посылается на единственный выход. Такие искусственные нейроны объединяют в сети — соединяют выходы одних нейронов с входами других.

Каждый нейрон характеризуется своим текущим состоянием по аналогии с нервными клетками головного мозга, которые могут быть возбуждены или заторможены. Он обладает группой синапсов – однонаправленных входных связей, соединенных с выходами других нейронов, а также имеет аксон – выходную связь данного нейрона, с которой сигнал поступает на синапсы следующих нейронов.  Каждая связь характеризуется своим весом. Связи с положительным весом называются возбуждающими, а с отрицательным  — тормозящими.