Яна–Теллера эффекты – совокупность квантовых эффектов, проявляющихся у многоатомных молекул при понижении симметрии ядерной конфигурации под влиянием электронно–колебательного взаимодействия. Если у молекулы существуют геом. конфигурации высокой симметрии, например, конфигурации с осью симметрии третьего или более высокого порядка, то электронные состояния такой молекулы может быть вырождены. Коррелированные движение электронов и колебания ядер могут привести к искажению конфигурации и понижению симметрии, при этом вырождение снимается, и поверхность потенциальной энергии расщепляется на две (или более, в зависимости от кратности вырождения и типа искажения). В общем случае одна из потенциальных поверхностей опускается ниже энергии высокосимметричной конфигурации, другая – поднимается выше. Это означает, что минимум на потенц. поверхности отвечает не наиболее высокой по симметрии конфигурации Q_0, а менее симметричной Q₁. Таких минимумов может быть столько, сколько получено потенциальных поверхностей из конфигурации Q₁ в результате операций симметрии, составляющих группу максимально высокого порядка, допустимого для данной молекулы (за исключением операций, отвечающих повороту системы как целого).
Обычно эффект Яна–Теллера рассматривают в так называемом грубом приближении Борна–Оппенгеймера. В качестве причины расщепления потенциальных поверхностей принимается изменение электронно–ядерного взаимодействия при переходе от конфигурации Q₀ к конфигурации Q₁. В рамках более точного адиабатического приближения снятие вырождения при переходе к низкосимметричной конфигурации является естественным и не связано с электронно–колебательным взаимодействием.
Г. А. Ян и Э. Теллер (1937) показали, что у многоатомной молекулы всегда найдется такое неполносимметричное колебание ядер, при котором электронная энергия вырожденного электронного состояния понижается, в результате чего минимум на потенциальной поверхности смещается к конфигурации ядер с более низкой симметрией. В этом заключается собственно эффект Яна–Теллера 1–го порядка: высокосимметричная конфигурация молекулярной системы при наличии электронного вырождения является неустойчивой и самопроизвольно деформируется. Волновые функции и отвечающие им энергетические состояния могут быть рассчитаны в рамках 1–го порядка возмущений теории. Так, для октаэдрических комплексов переходных металлов искажение, ведущее к понижению симметрии двукратно вырожденного электронного состояния типа Е, может быть связано с его взаимодействием с двукратно вырожденным колебательным уровнем е того же типа симметрии. Для таких комплексов эффект Яна–Теллера проявляется в том, что у молекулярной системы существуют 3 эквивалентных минимума, отвечающих октаэдру, вытянутому (или сжатому) по одной из его 3 осей 4–го порядка. Если эти минимумы разделены невысокими барьерами, происходит туннельное расщепление энергетического уровня. Между расщепленными уровнями возможны переходы, что проявляется в тонкой структуре оптических спектров, изменении правил отбора, появлении новых линий в инфракрасном спектре.
Если потенциальные барьеры между минимумами достаточно высоки, то система, попав в один из них, будет находиться в нем продолжительное время; это так называемый статический эффект Яна–Теллера, в отличие от описанного выше "динамического" эффекта. Обычно основное состояние молекулы невырождено, или, если вырождение есть, электронно–колебательное взаимодействие не слишком велико и барьер между минимумами оказывается достаточно низким, то есть имеет место динамический эффект Яна–Теллера. Статический эффект наблюдают, как правило, только при воздействии на молекулярную систему внешних полей. В частности, при кооперативном увеличении высоты барьеров в кристаллах минимумам потенциальной поверхности отвечают такие конфигурации всей кристаллической структуры, при которых вырождение для каждой отдельной молекулы или иона в кристалле снимается. Такое энергетически выгодное расположение локально искаженных фрагментов кристалла (в общем случае возникающее не только за счет эффекта Яна–Теллера) может быть разрушено тепловыми флуктуациями при повышении температуры, что приводит, например, к структурным фазовым переходам (так называемые ян–теллеровские кристаллы). Для свободных молекул и молекулярных комплексов, то есть в отсутствие внешнего воздействия, характерен именно динамический эффект.
Электронно–колебательное взаимодействие может быть достаточно сильным для того, чтобы даже в невырожденном основном электронном состоянии минимум на потенциальной поверхности сместился от наибольшей симметричной конфигурации Q₀ к менее симметричной Q₁. Такой эффект называется псевдоэффектом Яна–Теллера или эффектом Яна–Теллера 2–го порядка, поскольку для расчета волновых функций и электронных энергий используется 2–ой порядок теории возмущений. При достаточно слабом псевдоэффекте Яна–Теллера минимум, отвечающий конфигурации Q₀, сохраняется, но потенциальная поверхность вблизи минимума становится более пологой. При сильном же псевдоэффекте минимум перемещается от конфигурации Q₀ к конфигурации Q₁, причем Q₀ становится локальным максимумом (говорят о структурной неустойчивости конфигурации Q₀).
Для линейных многоатомных молекул с вырожденным электронным состоянием при деформационных колебаниях также возможно смещение минимума от линейной конфигурации (высокосимметричной) к менее симметричной изогнутой конфигурации; это так называемый эффект Реннера–Теллера. Эффект может быть слабым, тогда он проявляется лишь в том, что уменьшается силовая постоянная деформационного колебания линейной молекулы; сильный эффект приводит к нелинейной равновесной конфигурации молекул.
Экспериментально структурные и спектральные проявления Яна–Теллера наблюдаются для некоторых молекулярных кристаллов и кристаллов комплексов переходных металлов. С ним связывают, например, подвижность координационной сферы Cu(II) в керамиках, формирование винтовой структуры в кристаллах типа CsCuCl₃, структурные фазовые переходы в кристаллах, в том числе возникновение спонтанной поляризации в сегнетоэлектриках, особенности оптических спектров, активацию молекул при их взаимодействии с активными центрами катализаторов и другие. С эффектом Яна–Теллера связывают и ряд особенностей поведения молекул в биологических системах, в частности стереоспецифическое оксигенирование гемоглобина.

 

* * *

 

Снятие вырождения электронных термов многоатомной молекулы при понижении симметрии ядерной конфигурации и связанное с ним понижение симметрии равновесной конфигурации молекул носят название эффекта Яна–Теллера. Если этот эффект проявляется в первом порядке теории возмущений (с волновыми функциями грубого приближения Борна–Оппенгеймера в качестве невозмущенных), то он называется эффектом Яна–Теллера первого порядка. Если же в нулевом приближении электронные состояния невырождены, то поправки, связанные с электронно–колебательным взаимодействием, могут привести к указанным выше особенностям изменения термов и равновесных конфигураций за счет членов второго порядка теории возмущений. По этой причине указанные особенности называют либо эффектом Яна–Теллера второго порядка, либо псевдоэффектом Яна–Теллера. Г. А. Ян и Э. Теллер (1937 г.) показали на примере всех точечных групп симметрии, неприводимые представления которых имеют размерность не выше трех, что всегда найдется такое неполносимметричное колебание многоатомной молекулы, которое понижает электронную энергию вырожденного электронного состояния, так что минимум на потенциальной поверхности смещается к конфигурации ядер с более низкой симметрией. В указанной терминологии ими был рассмотрен эффект первого порядка. Так, в случае двукратно вырожденного электронного состояния типа Е искажение, ведущее к понижению симметрии, может быть связано с двукратно вырожденным колебанием того же типа симметрии.
Понижение симметрии равновесной конфигурации приводит к нескольким эквивалентным минимумам, переходящим друг в друга при операциях группы высокой симметрии, не входящих в число операций группы образующейся равновесной конфигурации. Возникает два минимума, отвечающих некоторым положительному и отрицательному значениям. Для октаэдрических комплексов переходных металлов за счет эффекта Яна–Теллера (первого порядка) появляется 3 эквивалентных минимума, отвечающих октаэдру, вытянутому или сжатому по одной из его трех осей 4–го порядка. Наличие трех минимумов, разделенных барьерами, приводит, если эти барьеры невысоки, к туннельному расщеплению уровня, отвечающего системе с такими же, но изолированными друг от друга минимумами. Между расщепленными уровнями возможны переходы, что приводит к тонкой структуре оптических спектров комплексов, к изменению правил отбора и появлению новых линий в колебательном спектре.
Если потенциальные барьеры между минимумами достаточно высоки, то система, попав в один из них, будет находиться в нем продолжительное время: это так называемый статический эффект Яна–Теллера. В противном случае проявляется динамический эффект Яна–Теллера. Обычно основное состояние молекулы, для которого как раз и рассматриваются эффекты Яна–Теллера первого порядка, невырождено. Однако даже в тех случаях, когда вырождение есть, электронно-колебательное взаимодействие не настолько велико, чтобы барьер между минимумами оказался достаточно высоким. Поэтому статический эффект Яна–Теллера наблюдают только при наличии внешних воздействий, в частности при увеличении высоты барьеров в кристаллах. Минимумам потенциальной поверхности в этих случаях отвечают такие конфигурации всей кристаллической структуры, при которых вырождение для каждой отдельной молекулы или иона в кристалле снимается. Такое энергетически выгодное расположение локально искаженных фрагментов кристалла (в общем случае возникающее не только за счет эффектов Яна–Теллера) может быть разрушено при повышении температуры тепловыми флуктуациями, что приводит, например, к структурным фазовым переходам в так называемых ян–теллеровских кристаллах. Для свободных молекул и молекулярных комплексов, то есть в отсутствие внешнего воздействия, характерен именно динамический эффект.
Для линейных многоатомных молекул с вырожденным электронным состоянием линейной конфигурации при деформационных колебаниях также возможно смещение минимума от линейной к изогнутой конфигурации, что носит название эффекта Реннера–Теллера. Как и в случае эффекта Яна–Теллера, этот эффект может быть слабым и проявляться лишь в уменьшении силовой постоянной деформационного колебания линейной молекулы, либо быть сильным и приводить к нелинейной равновесной конфигурации молекул.

  * * *

 

Рассмотрим особенности решения вибронной E–e–задачи при наличии внешних возмущений – электронных или механических (упругих).
В качестве простейшего электронного возмущения, снимающего вырождение E–уровня, рассмотрим действие низкосимметричного КП, описываемого эффективным гамильтонианом
 

 

где b_2,3 (b,j₀) – параметры НКП. Оператор типа DH₁ легко получить из гамильтониана H₁ полагая в нем Q₂, Q₃ некоторыми статическими смещениями, тогда b₂ = V_EQ₂⁽⁰⁾, b₃ = V_EQ₃⁽⁰⁾.
Собственные значения гамильтониана H₁' = H₁ + DH₁ легко находятся:

 

Так что с учетом линейного вибронного взаимодействия адиабатический потенциал

e± = 1/2 ЧK_E r² + De_± (r,j) = e_± (r,j)

 

 теперь теряет аксиальную симметрию и становится функцией как r, так и j. Элементом симметрии потенциала остается только плоскость j= j_0, j= j₀±p. "Мексиканская шляпа" деформируется: дно желоба на ветви e – поднимается и опускается, достигая экстремальных положений –(EJT ± b) как раз в точках пересечения с плоскостью симметрии "шляпы".
Сечение адиабатического потенциала плоскостью j= j₀, j= j₀±p, когда

e_±(r) = 1/2 ЧK_Er² ± [r |V_E| ± b]

(с независимыми вариантами знаков перед b) приведено на рисунке 1

 

Экспериментально структурные и спектральные проявления эффектов Яна–Теллера наблюдаются для некоторых молекулярных кристаллов и кристаллов комплексов переходных металлов. С ними связывают особенности ряда кристаллических структур (например, подвижность координационной сферы Cu(II) в керамиках, формирование винтовой структуры в кристаллах типа CsCuCl₃ и т.п.), структурные фазовые переходы в кристаллах, особенности оптических спектров, активацию ряда молекул при их взаимодействии с активными центрами катализаторов и т.п. С эффектами Яна–Теллера связывают и ряд особенностей поведения молекул в биологических системах.