Как „Терминаторът“ от 1984 г. предсказа страховете ни от изкуствения интелект

Б локбастърът „Терминатор“ от 1984 г. с Арнолд Шварценегер в главната роля се превърна в синоним на опасностите, които крият свръхинтелигентните машини. Но той „помага и пречи“ на разбирането ни за изкуствения интелект.

В един от епизодите на ситкома на HBO „Силициевата долина“ Томас Мидълдич (Ричард Хендрикс) обяснява своята платформа за машинно обучение Pied Piper на фокус група, когато един от участниците неизбежно я сравнява с филма на Джеймс Камерън от 1984 г. „Терминатор“.

„Не, не, не. Мога да ви уверя, че тук няма ситуация от типа на Скайнет. Не, Пиедесталът по никакъв начин няма да стане разумен и да се опита да завладее света“, настоява раздразненият Мидълдич.

Твърде късно. 

Със своите роботи-убийци и измамната си система за изкуствен интелект Скайнет „Терминатор“ се е превърнал в синоним на призрака на машинния интелект, който се обръща срещу своите човешки създатели. Картинните редактори рутинно илюстрират статиите за ИИ с хромираната смъртна глава на робота „ловец-убиец“ Т-800 от филма. Роботистът Роналд Аркин използва клипове от филма в предупредителна лекция от 2013 г., наречена „Как да не създаваме Терминатор“.

Но филмът е смесена благословия. Философът Ник Бостром, чиято книга от 2014 г. „Суперинтелигентност“ популяризира екзистенциалния риск от „неприспособения ИИ“ (ИИ, който не е съобразен с човешките ценности и благополучие), призна, че съпругата му „ме дразни за Терминатора и армията от роботи“. В книгата си „Пътят към съзнателните машини“ изследователят на ИИ Майкъл Уулридж оформя цяла глава с оплакване от „разказа за Терминатора в ИИ“.

Има и по-нови и по-правдоподобни филми за изкуствения интелект, включително Ex Machina и Her, но когато става въпрос за опасностите, свързани с технологията, „Терминаторът“ властва 40 години след излизането си.

„По някакъв смешен начин сега той е почти по-актуален, отколкото когато излезе, защото ИИ вече е реално нещо, с което трябва да се справим, а тогава беше фантазия“, казва Камерън пред The Ringer за филма и неговото продължение от 1991 г.

The Terminator:

How James Cameron's 'science-fiction slasher film' predicted our fears about AI, 40 years ago https://t.co/gDDAcq7GSg @JimCameron @Dorianlynskey @guardian

— Spiros Margaris (@SpirosMargaris) October 18, 2024

"Против оръжията и машините"

Това е доста добро постижение за филм, който всъщност не се интересува особено от ИИ. Преди всичко това е постен и лигав трилър за неудържим „мъж“, който преследва уплашена, но находчива жена. Т-800 е неумолим убиец в духа на Майкъл Майерс от „Хелоуин“. Камерън го нарича „научнофантастичен филм за убийства“. На второ място, това е филм за пътуване във времето на тема „съдбата срещу волята“, както се изразява Камерън.

Бързо очертаната предпоставка е, че в някакъв момент между 1984 и 2029 г. САЩ поверяват цялата си отбранителна система на Скайнет. Един ден Скайнет постига свръхинтелигентност - свой собствен разум - и започва глобална ядрена война. След това оцелелите от човечеството започват десетилетен бунт срещу армията от роботи на Скайнет. През 2029 г. човешката съпротива е на прага на победата благодарение на водачеството на Джон Конър, затова Скайнет изпраща Т-800 (Арнолд Шварценегер) през 1984 г., за да убие бъдещата майка на Джон - Сара (Линда Хамилтън), преди тя да забременее. Съпротивата отговаря, като изпраща обратно Кайл Рийз (Майкъл Бийн), за да спре Т-800 и да спаси Сара. В един от онези парадокси на времевата примка, които зрителите не бива да разглеждат твърде внимателно, Кайл се свързва със Сара и се оказва баща на Джон. Бъдещето е спасено.

Така че „Терминаторът“ е трилър, любовна история, препускане във времето, размисъл за свободната воля и сатира за зависимостта ни от технологиите. Филмът е антикорпоративен, антивоенен, антиоръжеен и до голяма степен антимашинен. Технологията - от телефонните секретари до уокмените - е замесена, когато във филма се убиват хора. Но филмът има много малко какво да каже за самия изкуствен интелект.

Терминаторът ще се превърне в един от най-печелившите филми на всички времена с приходи от 78,4 млн. долара, но Камерън не е очаквал да създаде културен крайъгълен камък. Той пише сценария в един очукан хотел в Рим през 1982 г., след като е уволнен от първата си режисьорска работа - „Пираня II: Размножаване“, а продуцентът му Гейл Ан Хърд може да осигури само 6,4 млн. долара бюджет. Главният му актьор, бивш културист с недоказан талант, не възлага големи надежди. Шварценегер казал на приятел за „някакъв гаден филм, който правя, отнема няколко седмици“.

През 20-те години на миналия век е било логично машинният интелект да ходи и да говори, подобно на чудовището на Франкенщайн

Самият Камерън е очаквал „Терминаторът“ да бъде „потъпкан“ в боксофиса от двата научнофантастични епоса на есента: Дюн на Дейвид Линч и „2010“ на Питър Хаймс: Годината, в която ще осъществим контакт, скоро забравено продължение на „ 2001: Космическа одисея“. Тук има привлекателна синхроничност: не само че „Терминаторът“ надмина 2010 г., но и „Скайнет“ измести убийствения компютър HAL 9000 от 2001 г. като доминиращ образ на лошия изкуствен интелект.

Много преди да се появи изкуственият интелект, потенциалните опасности от него се проявяват под формата на робот, създаден от Карел Чапек в пиесата му RUR през 1921 г. и популяризиран от филма „Метрополис“ на Фриц Ланг през 1927 г. В отличната си книга за „Терминатор“ на БФИ Шон Френч предполага, че най-запомнящият се образ на филма - Т-800, който излиза от пламъците, а плътта му се разтопява, за да разкрие металния му ендоскелет - е намек за горящия робот от „Метрополис“. През 20-те години на ХХ век е логично машинният интелект да ходи и да говори като чудовището на Франкенщайн. Популярността на смъртоносните роботи кара писателя фантаст Айзък Азимов през 1942 г. да състави „трите закона на роботиката“: първият опит за дефиниране на етичен изкуствен интелект.

В реалния свят областта на изкуствения интелект започва официално през 1956 г. на лятно училище в университета в Дартмут, организирано от компютърните специалисти Джон Маккарти (който въвежда термина) и Марвин Мински. Тяхната амбиция е да създадат машини, които да мислят като хората, но това се оказва много по-трудно, отколкото са си представяли. Историята на изкуствения интелект е история на възход и падение: цикъл на така наречените „пролетни“ и „зимни“ периоди на изкуствения интелект. Умопомрачителните обещания привличат вниманието, финансирането и талантите, а неуспехът им води до спад и в трите направления.

Бумът през 60-те години на миналия век, преди да стане ясен мащабът на техническите пречки, е известен като „златната ера“ на ИИ. Екстравагантната шумотевица за „електронните мозъци“ развълнува режисьора Стенли Кубрик и писателя Артър Кларк, който интегрира ИИ във филма „2001: Космическа одисея“ от 1968 г. под формата на HAL 9000. Името (означаващо евристично програмиран алгоритмичен компютър) идва от самия Мински, нает като консултант от Кубрик. Червените очи на T-800 със сигурност са почит към HAL - гледането на 2001 г. като дете е насочило Камерън към това да стане филмов режисьор.

"The Terminator" serves as a warning about the dangers of artificial intelligence and our fear of losing control over technology. It highlights the importance of staying aware of how our creations can affect us. The film urges caution and responsibility in technology development. pic.twitter.com/IIp445CT5i

— Sajjad (@Sajjad57678616) October 18, 2024

Даниел Кревие, историк на изкуствения интелект, противопоставя сценария на HAL (лошо програмиран компютър се разваля) на сценария в трилъра на Д. Ф. Джоунс от 1966 г. „Colossus“ (компютърът се превръща в богоподобна нова форма на живот). В романа на Джоунс правителството на САЩ неразумно поверява цялата си отбранителна техника на титулярния суперкомпютър. Colossus придобива съзнание, обединява сили със съветския си колега и изнудва човечеството да се подчини на технодиктатура: да се предаде или да бъде унищожено с ядрени оръжия. Colossus е прото-Скинет.

Краят на историята

James Cameron, the director behind the iconic 'Terminator' films, which depicted a future where machines with AI had taken over the world, believes the 'weaponization of AI is the biggest danger' pic.twitter.com/mKLQ5PqnhH

— Reuters (@Reuters) July 22, 2023

Нито HAL, нито Colossus имаха - или се нуждаеха - от тела. Блестящото нововъведение на Камерън е да съчетае неконтролируемия компютър (Скайнет) с робота убиец (Т-800). Т-800 е едноцелева форма на изкуствен интелект, която може да се учи от околната среда, да решава проблеми, да изпълнява сложни физически задачи и да пресъздава гласове, но трудно поддържа разговор. Скайнет, изглежда, може да прави всичко, освен да се движи.

Скайнет е продукт на втората пролет на ИИ. Докато Камерън пишеше сценария, британско-канадският компютърен учен Джефри Хинтън преосмисляше и съживяваше изследванията в областта на подхода на невронните мрежи към ИИ: моделиране на машинния интелект по невроните в човешкия мозък. Скайнет е невронно-мрежов ИИ. Хинтън, който току-що получи Нобелова награда за физика, напоследък е привърженик на ИИ („Интуицията ми е: ние сме изпечени. Това е действителният край на историята“), но според профила в New Yorker , през 1984 г. той е харесал „Терминатор“: „Не го притесняваше, че Skynet... е невронна мрежа; беше доволен да види технологията, представена като обещаваща.“

Възможно е името Skynet да е и намек за „Междузвездни войни“ - обречената мечта на президента Рейгън да създаде противоядрен щит около САЩ с помощта на космически лазери. (За щастие на бъдещето на франчайза, то също така неволно повтори интернет - дума, която е съществувала през 1984 г., но не е била широко използвана до 90-те години на миналия век). Портокаловите имена на амбициозни нови стартиращи компании като IntelliCorp, Syntelligence и TeKnowledge вероятно са вдъхновили Камерън да смали оригиналното име на създателя на Скайнет - Cyber Dynamics Corporation - в Cyberdyne Systems.

При повторното гледане на „Терминатор“ с изненада установявам, че думата „Скайнет“ е произнесена само два пъти. Според Кайл Рийз това е така: „Нов. Мощен. Включен във всичко. Доверен да управлява всичко. Казват, че е станал умен... нов вид интелигентност. Тогава то виждало всички хора като заплаха, не само тези от другата страна. Решило съдбата ни за една микросекунда... изтребление.“ Това е степента, до която филмът се интересува от изкуствения интелект. Както Камерън често е казвал, филмите за Терминатор всъщност са по-скоро за хората, отколкото за машините.

Terminator (1984)

James Cameron (art below): “While [Arnold Schwarzenegger] was talking, I was just watching his face — such a singular face with such indomitable will in his features, almost a brutal reality. And I thought he could play the Terminator. Problem was..."

1/3 pic.twitter.com/rdKYVB9xfL

— The Spaceshipper 🚀 (@TheSpaceshipper) April 6, 2024

Продължението на блокбастъра от 1991 г. „Терминатор 2: Денят на страшния съд“ допълва малко историята. Тя произлиза от друг времеви парадокс: централният процесор и дясната ръка на оригиналния Терминатор оцеляват при унищожаването му и позволяват на ученият от Cyberdyne Майлс Бенет Дайсън (Джо Мортън) да създаде Skynet. Сега задачата на героите е не само да спасят 10-годишния Джон Конър от пътуващия във времето Т-1000, но и да унищожат Скайнет в цифровата люлка. (Това е последната дума на Камерън по темата, докато не продуцира и не стане съсценарист на „ Терминатор“ от 2019 г: Тъмна съдба. Неотдавна той заяви пред списание Empire, че всички междинни продължения са били „с отстъпка“).

В „Терминатор 2“ оформеният като Шварценегер Т-800 е по-скоро защитник, отколкото ловец, и следователно носител на информация: „Системата влиза в действие на 4 август 1997 г. Човешките решения са премахнати от стратегическата отбрана. Скайнет започва да се учи с геометрична скорост. Той започва да се самоосъзнава в 2:14 ч. източно време на 29 август. В паниката си те се опитват да издърпат щепсела.“ Скайнет отвръща на удара, като изстрелва ядрени ракети по Русия, знаейки, че контраатаката ще опустоши САЩ. Три милиарда души загиват за 24 часа: Денят на Страшния съд.

Това е коренно различен разказ от този на Рийз. В първия филм Скайнет интерпретира прекомерно своето програмиране, като счита цялото човечество за заплаха. Във втория той действа от личен интерес. Противоречието не притеснява повечето зрители, но то илюстрира съществено несъгласие относно екзистенциалния риск от ИИ.

Неспециалистите вероятно си представят неприсъединения ИИ като бунтовен и злонамерен. Но такива като Ник Бостром настояват, че истинската опасност се крие в небрежното програмиране. Спомнете си за метлата на магьосника във „Фантазия“ на Дисни: устройство, което послушно следва инструкциите си до пагубни крайности. Вторият тип изкуствен интелект не е достатъчно човешки, липсва му здрав разум и морална преценка. Първият е твърде човешки - егоистичен, обиден, жаден за власт. На теория и двата могат да бъдат геноцидни.

Затова „Терминаторът“ едновременно помага и пречи на разбирането ни за ИИ: какво означава една машина да „мисли“ и как това може да се обърка ужасяващо. Много изследователи на изкуствения интелект се възмущават от манията по Терминатора, тъй като тя преувеличава екзистенциалния риск от изкуствения интелект за сметка на по-непосредствени опасности като масовата безработица, дезинформацията и автономните оръжия.

„Първо, това ни кара да се тревожим за неща, за които вероятно не е необходимо да се тревожим. Но, второ, то отклонява вниманието от онези проблеми, повдигнати от ИИ, за които трябва да се тревожим​“, пише Майкъл Уулридж. 

Камерън разкрива пред Empire, че подготвя нов филм за Терминатора, който ще се откаже от целия наративен багаж на франчайза, но ще запази основната идея за „безсилните“ хора срещу изкуствения интелект. Ако това се случи, ще бъде интересно да видим какво ще каже режисьорът за ИИ сега, когато той е нещо, за което говорим - и се тревожим - всеки ден. Може би най-полезното послание на „Терминаторът“ за изследователите на ИИ е това за „волята срещу съдбата“: човешките решения определят резултатите. Нищо не е неизбежно.

Не пропускайте най-важните новини - последвайте ни в Google News Showcase