Британски съветник призовава за регулиране, тъй като ИИ може да застраши човечеството след две години

Британски съветник призовава за регулиране, тъй като ИИ може да застраши човечеството след две години

Тъй като изкуственият интелект (AI) продължава да прави пробиви в способностите си, нараства загрижеността дали тези иновации могат да станат по-мощни от своите създатели.

Мат Клифърд, председател на Агенцията за напреднали изследвания и изобретения на Обединеното кралство (ARIA), подчерта това в скорошно интервю за местен информационен бюлетин.

AI трябва да бъде регулиран в рамките на две години

Клифърд подчерта, че AI ще трябва да бъде регулиран скоро, за да се ограничи рискът да стане „много мощен“ през следващите две години, тъй като хората в момента нямат контрол над него.

„Имаме две години, за да въведем рамка, която ще направи контрола и регулирането на тези много големи модели много по-лесни, отколкото е днес“, каза той.

Коментирайки краткосрочните и дългосрочните рискове, които могат да възникнат от използването на AI инструменти, Клифърд каза, че хората могат да използват информация, генерирана от AI, за създаване на биологични оръжия или извършване на кибератаки.

Клифърд не е единственият технологичен експерт, загрижен за рисковете, свързани с растежа на ИИ. В отворено писмо от Центъра за безопасност на ИИ 350 експерти по изкуствен интелект подкрепиха идеята ИИ да се третира като екзистенциална заплаха, точно както ядрените оръжия и пандемиите заплашват човешкото съществуване.

Може ли AI да представлява по-голяма заплаха за човечеството?

Компютърният учен и бивш служител на Google Джефри Хинтън също има идеята, че AI може да отнеме властта от хората. По-рано този месец той спомена в интервю, че хората изграждат интелект, който може да надмине човешкия и да представлява заплаха за нашето съществуване.

Хинтън, смятан за един от кръстниците на AI, подчерта ефективността и възможностите за споделяне на знания на цифровия интелект в сравнение с ограниченията на биологичния интелект. Въпреки че Хинтън призна потенциалните ползи от ИИ, той подчерта необходимостта от смекчаване и предотвратяване на свързаните с това негативни последици.

.