Джефри Хинтън, широко възприеман като „кръстника на изкуствения интелект“, съобщи, че напуска Гугъл и предупреди, че чатботовете съвсем скоро ще изпреварят човечеството по интелект. В изявление, изпратено до „Ню Йорк Таймс“, специалистът по когнитивна психология и компютърни науки казва, че съжалява за приноса си към сферата и твърди, че усъвършенстването на дигиталните умове крие редица опасности.
Проучванията на Хинтън върху изкуствените невронни мрежи и т. нар. дълбоко структурирано обучение са основата, върху която са разработени популярни ИИ системи, като ChatGPT например. Потърсен за коментар от Би Би Си, той казва, че чатботовете са плашещи.
„Към момента не са по-интелигентни от нас, доколкото мога да преценя. Но мисля, че това скоро ще се промени – казва Хинтън. – Сега виждаме, че GPT-4 например засенчва човека по отношение на общите познания, и то с много. По отношение на разума не е така добър, но вече и там показва развитие. Предвид скоростния напредък в сферата, очакваме, че този аспект ще се подобри доста бързо. Това трябва да ни притеснява.“
В най-лошия сценарий, смята ученият, човечеството ще започне да проектира зла умисъл върху изкуствения интелект и ще го превърне в оръжие. Дава и пример, в който „някой лош актьор като президента Владимир Путин реши да даде на роботите възможност сами да определят подцелите си“. Подобна цел с по-нисък приоритет от първоначално заложената може да бъде необходимостта от повече власт.
„Стигнах до заключението, че интелектът, който ние развиваме, е много различен от този, който притежаваме. Ние сме биологични системи, а ИИ е дигитална система. Голямата разлика е, че при дигиталните системи имаме много копия, които виждат един и същ модел на света. Всички тези копия могат да бъдат обучавани поотделно, но да споделят общите си познания мигновено. Това е като да обучиш един човек и 10 хил. други автоматично да придобият неговите знания. Ето така тези чатботове знаят толкова повече от обикновен човек.“
Хинтън посочва възрастта си като причина за напускането на работата си, но с предупрежденията си се присъединява към нарастващ брой ИИ експерти, които насърчават за вземането на спешни мерки за контрол и регулация на сферата. През март учени и предприемачи, сред които Илон Мъск и Стийв Возняк, призоваха за временно спиране на разработката на ИИ, докато не бъдат очертани мерки за безопасност.
Вижте още: МЪСК И ВОЗНЯК: КОНТРОЛИРАЙТЕ ИЗКУСТВЕНИЯ ИНТЕЛЕКТ, ЩЕ ПРОМЕНИ ИСТОРИЯТА НА ЗЕМЯТА
В краткосрочен план ИИ ще донесе повече ползи, отколкото вреда за човечеството, „затова не смятам, че трябва да спираме развитието му“, казва Хинтън. Принципите на международния пазар обаче автоматично изключват възможността за временен мораториум над разработката на дигиталните умове:
„Дори всеки в САЩ да спре да работи по ИИ, Китай веднага ще излезе на челни позиции“.
В заключение Хинтън подчертава, че разбира само от науката зад изкуствения интелект, а етиката е в ръцете на правителствата по целия свят.
За да бъдем още по-добри...
За да бъдем още по-добри и да продължим да бъдем независима медия, не можем да го направим без вас - подкрепете „Площад Славейков“!
Банковата ни сметка (в лева/BGN) С карта през ePay.bg
Площад Славейков ЕООД
IBAN: BG98UBBS80021093830440
BIC: UBBSBGSF
Банка: ОББ
Основание: Дарение