Из особо значимых для неклассической эстетики и сферы искусства положений теории Фрейда следует еще указать на проблему комплексов и механизм психоанализа. Под комплексом психоаналитики имеют в виду конкретную совокупность неосознаваемых представлений, переживаний, интенций, как правило, имеющих отношение к сексуальным влечениям, вытесненным в сферу бессознательного и прорывающихся оттуда в самой разнообразной форме (сновидений, неврозов, галлюцинаций, произведений искусства), содержащей, однако, в зашифрованном (символическом) виде характерные черты исходного комплекса. К творческой сфере сам Фрейд относил в первую очередь Эдипов комплекс, формирующийся у мальчиков в возрасте 3-5 лет и заключающийся в бессознательном эротическом влечении к матери и неприязни к отцу-сопернику. Соответствующий комплекс у девочек (влечение к отцу и ревность к матери) Фрейд назвал комплексом Электры. Эти комплексы с возрастом вытесняются в бессознательное, но активно дают о себе знать на протяжении всей жизни человека. С Эдиповым комплексом тесно связан комплекс кастрации (боязнь мальчика, что отец кастрирует его за влечение к матери). Существен в жизни человека и в искусстве комплекс неполноценности и некоторые другие.
Для терапии неврозов и отдельных форм психоза Фрейд разработал методику психоанализа, которая основывается на выведении в сферу сознания пациента реальных причин (вытесненных влечений, комплексов, желаний; а также позабытых травм детской психики, связанных в основном с эротической сферой) его заболевания путем длительных доверительных бесед (психоаналитических сеансов). В их ходе анализируются события раннего детства пациента, его детские переживания, страхи, сновидения, грезы и галлюцинации; особенности сексуальной жизни, пристрастия, тайные влечения и т.п. психофизиологические особенности, часто тщательно скрываемые человеком (нередко даже и от себя самого ). В результате психотерапевт нащупывает истинную причину невроза и подводит к ее пониманию самого больного. Осознав ее, пациент, как правило, избавляется от заболевания. Этот метод Фрейд распространил на анализ психики некоторых выдающихся мастеров искусства прошлого (Леонардо да Винчи, Шекспира, Гёте, Достоевского), пытаясь вскрыть глубинные причины появления тех или иных мотивов в их творчестве, особенностей конкретных произведений (медлительность Гамлета в совершении отмщения за отца, некоторые особенности картин Леонардо, мотивы отцеубийства у Достоевского и т.п.). Этим самым он дал мощный толчок одному из наиболее сильных в XX в. направлений в литературно-художественной критике и неклассической эстетике — психоаналитическому.
Сам Фрейд признавал себя мало компетентным в вопросах искусства и эстетики. Более того, он полагал, что перед сущностью красоты и искусством в целом психоанализ бессилен. К искусству он подходил исключительно со своей профессиональной позиции ученого-психоаналитика, т.е. сугубо рационалистически; он подчеркивал, что не может наслаждаться произведением искусства (например, музыкой вообще), если не понимает, что доставляет это наслаждение. Узко рационалистический подход к искусству позволил Фрейду (как это ни парадоксально) показать именно иррациональную природу искусства, утверждая, что искусство является наиболее полной и адекватной формой сублимации вытесненных влечений художника. В искусстве осуществляется игра психических энергий, освобожденных от внешних ограничений. Художник в своих формах и образах «обходит» запреты цензора (Я) и выводит на поверхность запретные зовы и вожделения плоти, до того бушевавшие в бессознательном.
Наслаждение искусством — это наслаждение от реализации в нем, хотя и в символической форме, вытесненных влечений, запретных желаний и подавленных сознанием комплексов. При этом Фрейд различал предварительное, заманивающее наслаждение произведением, которое происходит на основе мастерски организованной формы (Фрейд называет это наслаждение эстетическим), и «подлинное наслаждение» художественным произведением, уводящее нас в самые глубины психики, — оно «возникает из снятия напряженностей в нашей душе. Быть может, именно это способствует тому, что художник приводит нас в состояние наслаждения нашими собственными фантазиями, на зтот раз без всяких упреков и без стыда» (Фрейд З. Художник и фантазирование. М., 1995. С. 134). Впоследствии Л.С. Выготский доосмыслил, как мы видели (Глава 3), это «снятие напряжения» до сущностного механизма эстетического катарсиса, возникающего при столкновении в психике и сгорании противоположно направленных аффектов в процессе восприятия произведения искусства. Фрейд указал также на компенсаторный механизм искусства, осознание которого увлекло в XX в. многих создателей искусства и его исследователей. Венский психоаналитик неоднократно подчеркивал, что искусство дает эрзац удовлетворения, компенсирующий древнейшие, до сих пор глубочайшим образом переживаемые культурные запреты, и тем самым, как ничто другое, примиряет с принесенными им жертвами. Произведения искусства позволяют также компенсировать и комплекс Нарцисса, присущий подавляющему большинству людей.
Научно (для рубежа XIX-XX вв.) обоснованное открытие Фрейдом сферы бессознательного и механизмов ее взаимодействия с сознанием и деятельностью человека, в частности, акцентирование внимания на роли сексуально-эротической энергии (либидо) в психической деятельности человека, а через нее — в культуре, религии, искусстве; тщательная разработка концепции сновидения и указание на прямые параллели между механизмом формирования сновидений и художественным творчеством; выявление роли комплексов в жизни человека; психофизиологическое обоснование реальности механизма сублимации; усмотрение типологического сходства в деятельности ребенка, невротика и художника; гипотеза о компенсаторной функции искусства и некоторые другие положения фрейдизма дали мощный толчок формированию творческих установок многих направлений искусства и отдельных художников и писателей XX в., стали существенной частью теоретического фундамента нонклассики. Далеко не все из деятелей искусства XX в., так или иначе оказавшихся под влиянием фрейдизма, были знакомы с учением самого Фрейда, но бурные дискуссии, протекавшие вокруг его учения на протяжении всей первой половины столетия в самых широких кругах евроамериканской интеллигенции, создали особую «фрейдогенную» атмосферу, в которой жили и творили многие крупнейшие мастера искусства авангарда и модернизма. Во второй половине XX в. фрейдизм стал классикой, не отдать дань которой считалось уже просто неприличным.
Крупнейшие представители авангарда и пост-культуры часто вполне сознательно обращались к сфере бессознательного, стремясь именно ее вожделения, интенции, образы довести тем или иным способом до прямого, обходящего контроль «цензуры» предсознания (Я), воплощения в своих произведениях. Дадаизм, отчасти экспрессионизм, сюрреализм, театр абсурда, литература «потока сознания», абстрактный экспрессионизм, поп-арт, живопись действия, многие феномены постмодернизма, почти все крупнейшие личности XX в. в изобразительном искусстве (Клее, Шагал, Пикассо, Дали, Миро и др.), писатели (Кафка, Джойс, Томас Манн, Шрсиа Маркес и др.) и кинорежиссеры (Бергман, Феллини, Антониони, Бертолуччи, Гринуэй и др.) чаще сознательно (иногда бессознательно) творчески трансформировали идеи Фрейда и его последователей в своем искусстве и нередко делали на них достаточно сильные акценты.
Далеко не всегда эта акцентация была корректной и органичной. Не без влияния фрейдизма беллетристика, кино, театр наполнились повышенным интересом к копанию в глубинных психических процессах героев (или самих авторов); во многих произведениях центральное место стали играть те или иные комплексы и закомплексованные персонажи. Сюрреалисты и некоторые их последователи возвели в закон художественного творчества метод «автоматического письма», «психического автоматизма», т.е. спонтанный творческий акт, максимально освобожденный от какого-либо контроля или руководства со стороны сознания и направленный на фиксацию бессознательной предметности человеческой психики. Многие художники пользуются этим методом стихийно, не впадая в излишнее теоретизирование. В самых продвинутых современных арт-практиках любой жест художника воспринимается как художественно значимый, ибо у его носителя он является согласно фрейдистам транслятором какой-либо бессознательной интенции.