Кръстникът на изкуствения интелект с нови предупреждения за потенциалните рискове

Д жефри Хинтън, един от така наречените „кръстници“ на изкуствения интелект, призова правителствата да се намесят и да се уверят, че машините няма да поемат контрол върху обществото.

Хинтън влезе в заглавията през май, когато обяви, че напуска след десетилетие работа в Google, за да може да говори по-свободно за опасностите от ИИ, малко след като пускането на ChatGPT плени света.

Високоуважаваният учен, който е базиран в университета в Торонто, говори по време на технологичната конференция Collision пред повече от 30 000 основатели на стартиращи фирми, инвеститори и работници от технологичния сектор. Повечето от тях искат да се научат как да се възползват от изкуствения интелект и не толкова да слушат лекции за опасностите от него или призиви за намеса от страна на правителствата.

"I think its important that people understand it's not just science fiction; it's not just fearmongering" - the Godfather of #AI, @geoffreyhinton, speaking about the risks of AI on Centre Stage at #CollisionConf pic.twitter.com/u3iM0LO4hP

— Collision Conf (@CollisionHQ) June 28, 2023

„Преди AI да стане по-умен от нас, мисля, че хората, които го разработват, трябва да бъдат насърчавани да полагат много повече усилия в посока да разберат как той може да се опита да отнеме контрола от нас“, каза Хинтън.

„В момента има 99 много умни човека, които се опитват да направят изкуствения интелект още по-добър и само един много умен човек, който се опитва да разбере как той може да бъде спиран, да търси баланса“, каза той.

Хинтън предупреди, че рисковете от ИИ трябва да се приемат много сериозно.

„Мисля, че е важно хората да разберат, че това не е научна фантастика, не става дума просто за всяване на страх“, настоя той. „Изправени сме пред реален риск, за който трябва да помислим, и да разберем предварително как бихме могли да се справим с него.“

Хинтън също така изрази загриженост, че изкуственият интелект ще задълбочи неравенството, като увеличаването на производителността от неговото внедряване ще бъде в полза на богатите, а не на работещите.

'Godfather of AI' Issues New Warnings Over Potential Risks to Society https://t.co/G4iANWUkey

— ScienceAlert (@ScienceAlert) June 29, 2023

„Богатството няма да отиде при хората, които вършат работата, а просто ще направи богатите по-богати и бедните по-бедни. Това би било едно ужасяващо общество“, добави той.

Той също така посочи опасността от „фалшиви новини“, създавани от ботове от типа на ChatGPT, и каза, че се надява генерираното от AI съдържание да бъде маркирано по подобен начин, по който централните банки поставят водни знаци на парите.

„Много е важно да опитаме да маркираме всичко фалшиво. Дали можем да го направим технически, не знам“, каза той.

Следете ни навсякъде и по всяко време с мобилното приложение на Vesti.bg. Можете да го изтеглите от Google Play и AppStore.

За още любопитно съдържание от Vesti.bg последвайте страницата ни в Instagram.