Професорът от Университета в Торонто Джефри Хинтън, често наричан "кръстник на изкуствения интелект" заради пионерските си изследвания в областта на невронните мрежи, наскоро става неофициален наблюдател на индустрията.

Тази пролет той напуска Google, за да може да критикува по-свободно областта, която е помогнал да се създаде, припомня в свой материал Engadget и продължава:

„Според него неотдавнашният ръст на генеративните изкуствени интелекти като ChatGPT и Bing Chat е признак за неконтролирано и потенциално опасно ускоряване на развитието, като дори Google сякаш се отказват от предишната си сдържаност в преследване на конкурентите си със своя продукт Bard“.

Докато компаниите изтъкват изкуствения интелект като решение за всичко - от сключването на договор за наем до транспортирането на стоки, по време на конференцията Collision в Торонто тази седмица, Хинтън бие тревога. Той не е убеден, че добрият AI ще победи лошия и смята, че провал при внедряването на етичен AI може да струва скъпо.

Забравете за AI апокалипсис в бъдещето. Опасността е тук и сега Тезата за бъдеще, изпълнено с рискове от изкуствения интелект, измества фокуса от проблемите, които вече създава


Заплаха за човечеството

Хинтън твърди, че AI е толкова добър, колкото са добри хората, които го създават, и че лошите технологии все още могат да победят. "Не съм убеден, че добрият AI, който се опитва да спре лошия AI, ще успее да получи контрол", обяснява той.

По думите му може да се окаже трудно да се спре военнопромишленият комплекс да произвежда бойни роботи например. Не е изключено да се окаже, че компаниите и армиите ще заобичат войни, в които жертвите са машини, които лесно могат да бъдат заменени.

И въпреки че Хинтън вярва, че големите езикови модели (обучен изкуствен интелект, който произвежда текст, подобен на човешкия, като GPT-4 на OpenAI) могат да доведат до огромно увеличение на производителността, той се опасява, че богатите могат просто да се възползват от това, за да се обогатят допълнително, увеличавайки и без това голямата разлика в богатството между различните социални групи.

Сам Алтман: Целият свят иска изкуствен интелект – и пазарът ще му го даде


Това би направило "богатите още по-богати, а бедните още по-бедни", казва Хинтън и повтаря широко оповестеното си мнение, че AI може да представлява екзистенциален риск за човечеството.

Ако изкуственият интелект стане по-интелигентен от хората, няма гаранция, че човекът ще остане начело. "Имаме проблеми", ако AI реши, че поемането на контрола е необходимо за постигане на целите му, предупреждава Хинтън. За него заплахите "не са просто научна фантастика"; те трябва да се приемат сериозно.

Той се опасява, че обществото би възпряло роботите-убийци едва след като видят "колко ужасни" са те.

Чатбот заменя кол центъра на IKEA, служителите стават интериорни дизайнериОт 2021 г. насам са обучени 8500 души, докато Billie е обработил 47% от клиентските запитвания


„Кръстникът на изкуствения интелект“ твърди, че пристрастията и дискриминацията остават проблем, тъй като изкривените данни за обучение могат да доведат до грешни и подвеждащи резултати. Алгоритмите също така създават ехо камери, които засилват дезинформацията и проблемите с психичното здраве, смята Хинтън, като акцентира и върху дезинформацията – няма да бъде възможно да се улови всяко фалшиво твърдение, но е "важно да се отбелязва всичко фалшиво като такова".

Това не означава, че Хинтън отхвърля технологията. Той просто смята, че хората ще трябва да извършат "емпирична работа", за да разберат как AI може да сгреши и да ограничат възможностите да изземе контрола.

Професорът акцентира и върху хората, които губят работата си заради автоматизацията. По думите му те биха могли да се предпазят от безработица, като се ориентират към професии, които могат да се променят в крак с времето.