Напевно, всі чули про ванільне та шоколадне морозиво, а от з такими смаками, як вихор праліне та чеддару, яблучний фісташковий рот або смажений монстр-сон.
Це лише деякі з багатьох примхливих речей, які Дженель Шейн, науковий співробітник з оптики в Луїсвілі, штат Колорадо, навчила штучний інтелект (ШІ) у свій вільний час. Хоча її експеримент проводився лише з ціллю розваги, він став нагадуванням про те, що люди як і раніше є ключовою частиною процесу тренувань ШІ, і це висвітлює обмеження та можливі упередження, які з цим пов’язані. Вона збирає списки, наприклад ідеї костюмів на Хеллоуін та назви фільмів жахів, і використовує їх для навчання алгоритму для створення своїх власних прикладів. 34-річна Шейн, публікує сміховинні витвори ШІ в своєму блозі, AI Weirdness, популярність якого в Інтернеті зростає серед спільноти ШI, включаючи голову ШІ Google, Джефа Діна.
Багато компаній вже знайшли багато різних застосувань штучного інтелекту в своїй діяльності, від спілкування з Алексою, яка є вашим персональним помічником, до виявлення шахрайств, пов’язаних з кредитним картками. Поряд з цим, компанії все частіше використовують ШI для більш творчих завдань. Наприклад, нещодавно системи ШІ IBM Watson допомогли Toyota створити серію рекламних роликів. Тим часом, Burger King також випустив серію реклам зі смішними звуками та фразами, які, як стверджує мережа ресторанів фаст фуду, були розроблені ШI, як частина маркетингового трюку, щоб пожартувати над сучасними технологіями.
Для своїх експериментів, Шейн використовує тип алгоритму машинного навчання, відомий як нейронна мережа, яка моделюється за тим, як нейрони працюють у мозку.
Вона дає нейронній мережі довгий список того, що вона хоче, щоб та наслідувала, наприклад імена змій. Алгоритм порівнює свої прогнози щодо того, як може виглядати назва змії з даними, наданими їй. Він використовує цю інформацію для навчання протягом часу та наближається до фактичних пропозицій зміїних назв.
Результати можуть бути досить смішними, але також показують багато сильних і слабких сторін ШІ. Нейромережа може швидко дізнатися про просту концепцію, але вона залежить від даних, які люди вводять в систему.
За словами Шейн, ШІ не вирішує питання: “Яка відповідь найкраща?”, скоріше ШІ відповідає на питання: “Які дії люди з моєї бази даних робили?”
Такі експерименти також підкреслюють необхідність приділяти увагу упередженим даним та ШI – що, згідно з Шейн, є досить складним, оскільки в сьогоднішньому світі упередження є скрізь. В той час, як наявність упереджень при проведенні експериментів Шейн це не така вже й велика справа, існування упереджених в реальному світі може мати серйозні наслідки. Рішення, прийняті з використанням ШI, щодо того, кому запропонувати іпотеку чи роботу, можуть бути упередженими щодо певних типів людей, якщо в даних, що використовуються для підготовки алгоритму, є упередження.
Інша проблема, якої багато хто побоюється – фактична здатність людини контролювати ШІ. Було багато дискусій про цю проблему. Філантроп, гравець в покер та активіст у сфері ШI, Лів Борі, вважає, що проблема полягає в тому, що коли щось є набагато розумнішим за все інше, намагання контролювати це стає майже неможливим для менш розумного створіння. Вона наполягає на тому, що через неминучу проблему контролю, абсолютно важливим є забезпечення того, щоб цілі суперінтелекту були вирівняні з нашими, перш ніж ШІ стане розумнішими за нас, – якщо він не запрограмований у правильному напрямку, суперінтелект може і буде вигадувати ідеї та наслідки, які ми не можемо уявити, і багато хто з них, можливо, не співпадатимуть з нашими бажаннями.
Останнім часом провідні технологічні компанії зіткнулися з критикою щодо питань, пов’язаних із упередження, що стосуються їх ШІ. У 2015 році Google довелося вибачитися після того, як темношкірий розробник програмного забезпечення розмістив твіт про те, що Google Photos позначив зображення його та його друга горилами. Зовсім недавно Google, Facebook, Microsoft та інші заявили, що працюють над тим, щоб визначати та усунути упередженість в ШI шляхом встановлення стандартів для розробки технології та розгортання інструментів для вимірювання похибок алгоритму.
Шейн також заявила, що незважаючи на швидкий розвиток ШІ та побоювань щодо того, що ця технологія забере тисячі робіт у людей, ШІ ще має багато чому навчитися.
Ті типи алгоритмів, які ми сьогодні називаємо штучним інтелектом, досить прості, обмежені та спрямовані на одне завдання. Вони зовсім не схожі на всі ці науково-фантастичні агенти з ШІ, які реагують на світ як люди, і можуть вмістити складні думки та реагувати на нові ситуації та речі. Згідно з дослідницею, людство ще далеке від розробки настільки складних технологій.
