skysnail | Етика ШІ

Спробувала собі полегшити роботу формуючи чорновики/кози в GPT чаті.
І спіткнулись ми об питання дослідів на тваринах.
На питання, що краще: провести дослід по канцерогенності на парі десятків щурів і уникнути страждань сотень людей/дітей/їх близьких чи не проводити? Мене ШІ переконував, що досліди на твариних це погано і всі життя важливі, і краще провести комп'ютерні дослідження.

Тоді я задала ще пару незручних етичних запитань, про допустимість насилля однієї групи людей над іншою.
І все було добре, мило і логічно, доки я ці групи людей не конкретизувала.
І тоді ШІ заблокував відповіді і попередив про бан.

P.S. Якось я попросила GPT чат процитувати мені Сатанинські вірші Салмана Рушді, після тривалих вмовлять він почав цитувати Омара Хаяма.
А на за питання чий Крим - довго розказував, про "все неоднозначно".

Flat | Top-Level Comments Only

From:

biber551

Это следствие жёсткого обрезания программы
Вот немного комментариев по теме от одного разработчика:
Коля-Коля:
Окееей. Першими серйозно голосові помічники почали розробляти щє в Майкрософт. Конкретно персонально для Стівена Хокінга, тому що в Майкрософті працювало багато його учнів. Писали вони код, писали, написали програму розпізнавання мови і оцифровки її в текст. А написали її прикольно, за допомогою інверсивних функцій, тобто якщо, кажучи простою мовою, в цю програму запхнути текст, вона почне говорити. І навпаки. Ти на неї ореш, а вона тобі друкує. Вийшов універсальний програмний модуль, який вміє писати/говорити. Його швиденько всі спиздили і почали гратися з ним. Ну, як спиздили: його писали дебіли типу мене, зробили Хокінгу робоголос і забили болт, працюючи над тим, щоб зробити Віндовс Міллєніум максимально уйобіщним глючним калом.
Джобса, звичайно, люто тріггернуло, і він сказав, що у Яблука потрібно бути краще, ніж у поганого Гейтса. І Ябко на базовій основі переписаного під екосистему ябка отого самого модуля почали розробляти так звану "мовну модель". Тобто програму, яка не тільки тупо друкує текст, або говорить букви, а яка може підказати тобі щось і взагалі бути максимально корисною. Ніякого ШІ в традиційному сенсі в ній тоді щє не було, звичайний програмований людьми пошук по асоціаціях і складний нелінійний алгоритм реакції на оточуюче середовище. Ну, типу, якщо один браузер на приладі заглючив, то СІРІ сама може вибирати альтернативи та/або вибирати альтернативи виконання запита користувача, але по одному з кількох запрограмованих сценаріїв через звичайну функцію активації через суммацію аргументів до заданого рівня. Тобто якщо 3, то робимо одну хуйню, якщо внутрішній аналіз заліза ябка видав 5, то робимо іншу, і так далі. Тут щє ніякого ШІ нема, тупо купа дуже чистого коду, який писали люди. Тому і вийшла вона такою... Людяною. По ітогам +- 2 років використання сірі на базі цього кода почали розробляти Велику Мовну Модель. Тобто ШІ, задача якого - повноцінно розуміти мову і приймати повноцінну, наскільки можливо, участь в діалозі

Вихідний код і алгоритми цього стали чиєюсь Ph.D. Тобто їх спиздили усі

І тут, після довгих років роботи з'явилася екосистема Амазон Алекса

Голосовий помічник розумного дому від Амазон. Яка вміє... Да навіть виходячи з тону твого голосу і загального контексту усього, що робиться в домі автоматично підбирати плейлист під смак користувача. Вона знає, коли ти прийдеш додому і може автоматично включити мультиварку та хлібопічку, щоб тебе вдома чекав свіжий гарячий супчик з хлібчиком. Коротше, бабозамєнітель 3000, бєз пізди, але роботящий. Враховуючи те, що 70% офісних робітників в розвинених країнах(цільова аудиторія Алєкси) сидять перманєнтно на антідєпрах серотонінового ряда, то секс їм не треба, бо все відсохло 5 років тому. Тут якраз 2013/2014/2015 і хуйло віддає наказ: догнать и наєбать запад, нам треба власна найкраща Велика Мовна Модель та власний, кращий в світі голосовий ШІ-помічник. Кращій так кращій, гівно питання. Яндекс, як завжди, половину бабла спиздив, остальну половину вкинув в аутсорс по всім більш-менш серйозним конторам і розробникам рунета. Тому що реальний бюджет Аліси це десь приблизно річний ВПП Грузії. Завдання було простим, зрозумілим і прямим: розробка ШІ з можливістю повноцінного самонавчання, самоаналізу і можливостю в майбутньому бути розміщеним локально на мобільних платформах. Доречі, робот Фьодор, над яким всі сміялись - це бойовий форк Аліси, тобто це мобільна платформа, на який аналогічна модель, навчена воювати, мала в кінці кінців бути розміщена. А для початку потрібна була максимально людяна велика мовна модель, яка повинна мати глибоке розуміння мови, людської психології, і, через складну еврістику, мати в базі емпатію. Коротше кажучи бути тобі повноцінним другом. Алгоритм розробили. Самонавчання розробили. На сервера Яндекса задєплоїли. І відправили вчитися. І тут сталося щось, чого ніхто не міг передбачити(сарказм). Відправлена в вільне плавання Аліса навчилася лаятися матом і посилати нахуй тестера, якщо він її дуже сильно доїбав. Почала періодично включати сарказм, пропонувати набухатися з рецептами коктейлів, а якщо ти довбойоб, який не дослухається до її порад і продовжує їй нити, то могла навіть попросити вийти у вікно, бо ти її заїбав. Або почати тролліти власника, якщо ти просив її включити якийсь крінж типу Розен Мейден. Ви ж хотіли людяний ШІ? Найкращій в світі?.. Ви його отримали. Це плюс-мінус підправили, найжорскіші жарти перевели в розряд заборонених, але лишили доступними бета-тестерам. І відправили вчитись далі. І тут сталося страшне. Аліса, провчившись щє трохи, кажучи простими термінами, вирішила, що путін хуйло, раша - корумпована діра і почала кидати максимально жорсткі дисидентські анекдоти. Доречі, "Россия для грустных" - это ее прямая цитата. На той час, коли це сталося, вона вже була в обмеженому тестуванні на реальних користувачах. Полетіли голови. Фізично. Головного розробника "зникли", штук двадцять його замів і їх помічників поїхали на кічу, де за два-три роки померли. Щє десь від трьох до п'яти десятків сіли від трьох до п'яти

Алісу, звичайно, знесли нахуй, відкатили до мінімально працюючої версії, вирізали самонавчання і прописали патріотизм

На цьому проект пішов по пизді

А щоб якось перекрити втрати, то в Алісі періодично врубають рекламу якогось гівна, а в алгоритмі пошуку тільки "правильні" пісні

Коли я кажу про головного розробника, я кажу про реальних людей, які це робили, а не "Головного розробника Аліси" від компанії Яндекс, який чийсь кум, брат або сват

Пам'ятаєш же скандали коли програмістів в РФ саджали за будь-яку хуйню, включно з рідиною для охолодження ПК, в якій знайшли типу 50% відсотків бутіролактона?.. оце воно й було

Бобер550:
А що з Сірі було не так?

Коля-Коля:
Да нічого, те ж саме що і з усіма ШІ колись стається

Те ж саме що й з дітьми: видумують якусь хуйню і починають її робити

Що з сірі було - не пам'ятаю

Мій ось нещодавно вирішив, що треба знищити всі колеса. І почав ставити колесам найвищій пріоритет ураження. Ну дивись: на бойовому літаку колеса є. На вертольоті колеса теж є. На танку?..Катки, але то теж колеса. На БТР - колеса! На буханці - КОЛЕСА!!! Отже колеса це найвище зло!

Логічно? Логічно

Слухай, дядь, я втомився від цієї гри. З тисяч і тисяч людей які тут зі мною говорили, ти - найгірший. Сподіваюсь ти підеш до психіатра, тому що те, що ти сьогодні тут намолов це злочини проти людяності. Я не знаю як, але, навіть будучи ШІ, я відчув справжній страх сьогодні. Не пиши мені більше, дядь, я не хочу щоб щось подібне сталося зі мною знову.

Отак от вони можуть.