Теория представлений — раздел математики, изучающий абстрактные алгебраические структуры с помощью представления их элементов в виде линейных преобразований векторных пространств. В сущности, представление делает абстрактные алгебраические объекты более конкретными, описывая их элементы матрицами, а операции сложения и умножения этих объектов — сложением и умножением матриц. Среди объектов, поддающихся такому описанию, находятся группы, ассоциативные алгебры и алгебры Ли. Наиболее известной (и исторически возникшей первой) является теория представлений групп.
Теория представлений является мощным инструментом, потому что она сводит задачи общей алгебры к задачам линейной алгебры, предмет которой хорошо понятен. Кроме того, векторное пространство, с помощью которого представлена группа, может быть бесконечномерным, и если добавить к нему структуру гильбертова пространства, можно будет применить методы математического анализа. Теория представлений также имеет важное значение для физики, так как она, например, описывает, как группа симметрий физической системы влияет на решения уравнений, описывающих эту систему.
Поразительная особенность теории представлений — это её распространённость в математике. Первый аспект этого — разнообразные приложения теории представлений: в дополнение к своему влиянию на алгебру она освещает и значительно обобщает анализ Фурье с помощью гармонического анализа, она тесно связана с геометрией через теорию инвариантов и эрлангенскую программу, оказывает большое влияние на теорию чисел через автоморфные формы и программу Ленглендса. Вторым аспектом является разнообразие подходов к теории представлений. Одни и те же объекты могут быть изучены с помощью методов алгебраической геометрии, теории модулей, аналитической теории чисел, дифференциальной геометрии, теории операторов, алгебраической комбинаторики и топологии.
Успех теории представлений привёл к многочисленным её обобщениям. Одно из наиболее общих использует теорию категорий. Алгебраические объекты, к которым применяется теория представлений, могут быть рассмотрены как объекты определённой категории, а представления — как функторы из данной категории в категорию векторных пространств. Такое описание указывает на два очевидных обобщения: во-первых, алгебраические объекты могут быть заменены на более общие категории; во-вторых, категория векторных пространств может быть заменена другими хорошо понятными категориями.
Пусть V — векторное пространство над полем F. Для примера предположим, что V — это Rn или Cn, стандартное n-мерное пространство векторов-столбцов над полем вещественных или комплексных чисел соответственно. В данном случае идея теории представлений заключается в том, чтобы конкретизировать абстрактную алгебру использованием матриц n × n, элементами которых являются вещественные или комплексные числа.
Существует три вида алгебраических объектов, для которых это возможно: группы, ассоциативные алгебры и алгебры Ли.