ШІ

IBM Robot обговорює небезпеки ШІ під час дебатів у Кембриджському союзі

IBM Robot обговорює небезпеки ШІ під час дебатів у Кембриджському союзі

У ніч на четвер, 21 листопада, відбувся важливий момент для 200-річного дискусійного клубу Кембриджського союзу. Вперше за всю історію робот ШІ взяв участь у дебатах клубу.

Цей робот був програмним забезпеченням IBM Project Debater AI. Його використовували для надання допомоги дві команди людей, які дискутували, коли вони обговорювали питання, чи буде штучний інтелект завдавати більше шкоди, ніж користі.

Були глибоко іронічні моменти, коли машина ШІ обмінювалася інформацією про те, яку шкоду ШІ може нанести.

ПОВ’ЯЗАНІ: ЕЛОН МАСК ДЕЛІТЬСЯ СВОИМИ ПЕРЕГЛЯДАМИ на AI, NEURALINK, AUTOPILOT І СИНЮ ТОЧКУ В ПОДКАСТІ

Що таке дебатер проекту?

IBM створила Project Debater як програмну систему, яка може збирати та класифікувати аргументи з текстової чи аудіоінформації, а потім узагальнює позиції в плавно синтезовану промову.

Причиною «Обговорення проекту» та використання його в рамках дебатів Кембриджського союзу було продемонструвати свої можливості напередодні того, як IBM запропонувала його публіці. Під назвою "виступ натовпу", Project Debater збирає та узагальнює величезну кількість аргументів, надісланих окремими людьми.

Наприклад, перед цим конкретним дебатом машина пережила 1100 різнорідних аргументів про те, чи не призведе ШІ більше шкоди, ніж користі, яку люди пересилають на веб-сайт IBM.

570 аргументів були віднесені машиною до категорії pro-AI, та 511 аргументів були проти цього. Деякі інші коментарі були відкинуті, оскільки вони були визнані недоречними.

Використовуючи синтезований жіночий голос, Project Debater був використаний для представлення початкової справи для кожної сторони аргументу на дебатах в Кембриджському союзі. Потім дві команди, керовані людьми, мали докладно розробити ці пункти та створити спростування.

Кембриджський союз приймав У. Черчілля, Далай-ламу та Стівена Хокінга. Чт # IBM # ProjectDebater було додано до списку. І я був там, щоб дати вступ. Найкраща історія - @SciTech_Cathttps: //t.co/MUr5gUIk1i#NeilLawrence#HarishNatarajan#SylvieDelacroix#SharmilaParmanandpic.twitter.com/NerWJGBjlR

- Ноам Слонім (@noamslonim) 23 листопада 2019 р

Чим би ця технологія була корисною у «реальному світі»?

Інженер, який керує проектом "Обговорення проекту" в IBM, Ноам Слонім, вважає, що ця технологія може використовуватися компаніями, коли їм потрібно зрозуміти, що їхні клієнти думають про їх продукцію. Крім того, його можна було б використати, щоб з’ясувати, що працівники думають про конкретну політику.

Крім того, Слонім вважає, що цей інструмент може також використовуватися урядами, які прагнуть краще зрозуміти, що думають їхні громадяни.

Для Слоніма це спосіб продемонструвати, як ШІ може працювати разом із людьми в майбутньому, допомагаючи покращувати їх робочі ситуації та не конкуруючи з ними.

Проте програмне забезпечення залишається недосконалим, оскільки Слонім зазначив, що під час дебатів у Кембриджі ШІ допустив деякі помилки, використовуючи однакові аргументи двічі, або суперечивши собі.

Зрештою, з 52.1% Більшість, Кембриджський союз проголосував за думку, що ШІ завдасть більше шкоди, ніж користі.

Ви можете переглянути повну дискусію тут:


Перегляньте відео: Quantum computing explained with a deck of cards. Dario Gil, IBM Research (Грудень 2021).