До пред неколку години, се чинеше дека суперинтелигенцијата, или вештачката интелигенција што ќе биде понапредна од човечката интелигенција, може да се појави во некоја недефинирана иднина. Денес, работите се радикално различни и на сите им е јасно дека веќе не сме толку далеку од таква технологија и се поставува прашањето што ќе се случи откако ќе се појави.
Никој нема одговор на тоа прашање, а повеќето директори за технологија и експерти во оваа област веќе повикуваат на претпазливост, истакнувајќи дека постои можност вештачката интелигенција да се сврти против луѓето. Џорџ Хинтон, познат во јавноста како еден од кумовите на вештачката интелигенција, размислува слично. Во минатото, тој предупреди дека постои шанса од 10 до 20 проценти оваа технологија да го уништи човештвото, а за време на конференцијата Ai4 одржана во Лас Вегас, тој нагласи уште една работа. А тое е начинот на кој технолошките компании се обидуваат да обезбедат луѓето да останат доминантни над технологијата. Имено, тој начин не е добар.
Кумот на вештачката интелигенција верува дека системите базирани на вештачка интелигенција, ако се паметни, брзо ќе имаат две цели – едната е да преживеат, а другата е да добијат поголема контрола. Тој објасни како, откако технологијата ќе биде попаметна од луѓето, ќе најде начин да ги контролира луѓето.
Наместо сегашните методи и модели развиени и тестирани од технолошките компании, Хинтон вели дека е важно да се размислува во поинаква насока и да се поттикне чувство на сочувство кон луѓето – слично на инстинктот и социјалниот притисок што мајките го имаат да се грижат за своите бебиња. Тој нагласи дека ова е единствениот модел што постои, во кој суштество со пониска интелигенција има контрола над суштество со повисока интелигенција, во кој бебињата ги контролираат своите мајки.
Тоа е единствениот добар исход. Ако тој нема родителски чувства кон мене, тогаш ќе ме замени. Повеќето од тие супер интелигентни грижливи мајки со вештачка интелигенција нема да сакаат да се ослободат од својот мајчински инстинкт затоа што не сакаат да умреме. Иако Хинтон тврди дека станува збор за решение кое ќе нè заштити од технологијата, тој не знае како да го направи тоа технички, но нагласи дека е од најголема важност истражувачите да работат на тоа сега.
Зборувајќи на истата конференција, експертот за вештачка интелигенција Феи-Феи Ли коментираше дека не се согласува со размислувањето на Хинтон. Таа верува дека е одговорност на луѓето да создаваат и користат технологија на најодговорен можен начин, а воедно да го зачуваат човечкото достоинство. Без разлика колку се моќни системите за вештачка интелигенција, сосема е малку веројатно дека иднината на човештвото ќе зависи од „мајчинските инстинкти“ на вештачката интелигенција и дека ова е единствениот начин да се спречи оваа технологија да нè избрише од лицето на земјата.
