Човекът, смятан за кръстник на изкуствения интелект (AI), напусна работата си, предупреждавайки за нарастващите опасности от развитието в тази област.

75-годишният д-р Джефри Хинтън, експерт в областта на когнитивната психология и компютърните науки, обяви, че напуска Google в изявление за New York Times, като каза, че сега съжалява за работата си.

Хинтън е бил в Google на непълен работен ден в продължение на десетилетие, подпомагайки усилията на технологичния гигант за разработване на AI, но започва да изпитва притеснения относно технологията и ролята си в нейното развитие. „Утешавам се с нормалното извинение: ако не го бях направил аз, някой друг щеше да го направи“, казва Хинтън пред New York Times.

В интервюто за изданието Хинтън изразява опасения относно потенциала на AI да премахне работни места и да създаде свят, в който мнозина „вече няма да могат да знаят какво е истина“. Той също така посочва зашеметяващия темп на напредък, далеч над това, което той и други негови колеги са очаквали. „Повечето хора смятаха, че моментът, в който AI ботовете ще станат по-умни от хората, е далеч. И аз си мислех, че е далеч. Мислех, че ще e след 30-50 години или дори повече. Очевидно вече не мисля така”, споделя Хинтън.


В туит в понеделник Хинтън заяви, че е напуснал Google, за да може да говори свободно за рисковете от AI, а не поради желание да критикува конкретно Google.

Потърсен от BBC за коментар, Хинтън казва, че някои от опасностите, свързани с AI чатботовете, са „доста страшни“.

"В момента те не са по-интелигентни от нас, доколкото мога да преценя. Но мисля, че скоро може да са", казва Хинтън, чиито пионерски изследвания върху дълбокото обучение, основано на изкуствени невронни мрежи, проправиха пътя за настоящите AI инструменти като ChatGPT, посочва BBC. Той казва пред изданието, че чатботът скоро може да надмине нивото на информация, което човешкият мозък притежава.

„В момента виждаме, че инструменти като GPT-4 засенчват човек по отношение на общите познания. От гледна точка на разсъждението, те не са толкова добри, но вече правят прости разсъждения“, казва ветеранът.

Като се има предвид темпото на напредък, д-р Хинтън очаква уменията на AI ботовете да се подобрят доста бързо. „Трябва да се тревожим за това“, коментира той.

Ювал Ноа Харари за AI: „Демокрацията е основно разговор. Хората си говорят. Ако AI поеме разговора, с демокрацията е свършено“, казва историкът

В статията на New York Times д-р Хинтън говори за „лошите актьори“, които биха се опитали да използват AI за „лоши неща“, което е най-лошият и кошмарен сценарой по думите му.

„Можете да си представите, например, някой лош актьор като [руския президент Владимир] Путин да реши да даде на роботите способността да създават свои собствени подцели“, пояснява ученият пред BBC

Той добавя: „Стигнах до извода, че видът интелект, който развиваме, е много различен от интелекта, който имаме. Ние сме биологични системи, а това са цифрови системи. И голямата разлика е, че с цифровите системи имате много копия на един и същи набор от тежести, един и същ модел на света.

„Всички тези копия могат да учат поотделно, но да споделят знанията си незабавно. Така че все едно имате 10 000 души и всеки път, когато един човек научи нещо, всички автоматично го знаят. Това е начинът, по който тези чатботове могат да знаят много повече от всеки един човек.“

Д-р Хинтън подчертава, че не иска да критикува Google и че технологичният гигант е бил "много отговорен".

В изявление главният учен на Google Джеф Дийн добавя по темата: „Ние оставаме ангажирани с отговорен подход към разработването на AI. Непрекъснато се стремим да разбираме възникващите рискове, като същевременно въвеждаме смело иновации.“

Междувременно изпълнителният директор на IBM Арвинд Кришна заяви пред Bloomberg, че компанията се опитва да постави на пауза наемането на служители за позиции, които смята, че скоро може да бъдат заменени от изкуствен интелект. По думите му става дума за т.нар. бек-офис функции, които не са свързани с работа с клиенти, като 30% от тях могат да бъдат заменени от AI и автоматизация в рамките на пет години.