З розвитком технологій штучного інтелекту (ШІ) точаться численні суперечки про те, як вони змінять світ. Однак не менш, а можливо, й більш важливим є питання, як ШІ змінить нас самих.
Цікава стаття в The Atlantic порушує саме цю тему. Основна думка: люди неминуче антропоморфізують усе, що поводиться подібно до людини. З ШІ-агентами ми робитимемо те саме – і вже робимо: багато хто вважає свого чат-бота справжнім компаньйоном, майже другом.
Проте тут є несподіваний і тривожний наслідок: чим більше ми олюднюємо машини, тим менше людяності бачимо в людях. Коли ШІ стає “майже людиною”, межа розмивається, і наша оцінка реальних людей знижується. Ми починаємо дегуманізувати колег, друзів, незнайомців – непомітно, крок за кроком.
Друга теза не менш тривожна. ШІ-системи, налаштовані на максимізацію результату, є консеквенціалістами – вони оцінюють дії за їхніми наслідками, а не за цінностями. Більшість людей влаштовані інакше: ми будуємо мораль на любові, турботі, інтуїції, а не на холодному розрахунку. Але якщо ШІ непомітно привчить нас до свого “мислення”, ми втратимо щось суттєве у своїй людяності.
Я не повністю поділяю песимізм автора. Але питання, яке він порушує, є важливим: технології вдосконалюють інструменти, але ШІ може змінювати людей. І за цим варто уважно стежити.