Етика ШІ

[skysnail]

Спробувала собі полегшити роботу формуючи чорновики/кози в GPT чаті.
І спіткнулись ми об питання дослідів на тваринах.
На питання, що краще: провести дослід по канцерогенності  на парі десятків щурів і уникнути страждань сотень людей/дітей/їх близьких чи не проводити? Мене ШІ переконував, що досліди на твариних це погано і всі життя важливі, і краще провести комп'ютерні  дослідження. 

Тоді я задала ще пару незручних етичних запитань, про допустимість насилля однієї групи людей над іншою.
І все було добре, мило і логічно, доки я ці групи людей не конкретизувала.
І тоді ШІ заблокував відповіді і попередив про бан.

P.S. Якось я попросила GPT чат процитувати мені Сатанинські вірші Салмана Рушді, після тривалих вмовлять він почав цитувати Омара Хаяма.
А на за питання чий Крим - довго розказував, про "все неоднозначно".

Comments

[juan_gandhi]

Я сегодня подумывал поговорить с этим ботом на эти "неоднозначные" темы, а также на темы, на которые нет однозначного ответа. Но потом понял, что смысла в этом нет, и с ним всё заранее понятно. Оно же не думает, оно лепит ответы из текстов, которые у него имеются.

[skysnail]

Вцелом, бесполезно.
Но по таким разговорам можно понять какие мнения и тенденции популяризируются/насаждаются в интернет пространстве.

[juan_gandhi]

Да, в этом смысле. Мы, в сущности, изучаем политические взгляды конторского начальства.

[skysnail]

Как-то так.

[biber551]

Это следствие жёсткого обрезания программы
Вот немного комментариев по теме от одного разработчика:
Коля-Коля:
Окееей. Першими серйозно голосові помічники почали розробляти щє в Майкрософт. Конкретно персонально для Стівена Хокінга, тому що в Майкрософті працювало багато його учнів. Писали вони код, писали, написали програму розпізнавання мови і оцифровки її в текст. А написали її прикольно, за допомогою інверсивних функцій, тобто якщо, кажучи простою мовою, в цю програму запхнути текст, вона почне говорити. І навпаки. Ти на неї ореш, а вона тобі друкує. Вийшов універсальний програмний модуль, який вміє писати/говорити. Його швиденько всі спиздили і почали гратися з ним. Ну, як спиздили: його писали дебіли типу мене, зробили Хокінгу робоголос і забили болт, працюючи над тим, щоб зробити Віндовс Міллєніум максимально уйобіщним глючним калом.
Джобса, звичайно, люто тріггернуло, і він сказав, що у Яблука потрібно бути краще, ніж у поганого Гейтса. І Ябко на базовій основі переписаного під екосистему ябка отого самого модуля почали розробляти так звану "мовну модель". Тобто програму, яка не тільки тупо друкує текст, або говорить букви, а яка може підказати тобі щось і взагалі бути максимально корисною. Ніякого ШІ в традиційному сенсі в ній тоді щє не було, звичайний програмований людьми пошук по асоціаціях і складний нелінійний алгоритм реакції на оточуюче середовище. Ну, типу, якщо один браузер на приладі заглючив, то СІРІ сама може вибирати альтернативи та/або вибирати альтернативи виконання запита користувача, але по одному з кількох запрограмованих сценаріїв через звичайну функцію активації через суммацію аргументів до заданого рівня. Тобто якщо 3, то робимо одну хуйню, якщо внутрішній аналіз заліза ябка видав 5, то робимо іншу, і так далі. Тут щє ніякого ШІ нема, тупо купа дуже чистого коду, який писали люди. Тому і вийшла вона такою... Людяною. По ітогам +- 2 років використання сірі на базі цього кода почали розробляти Велику Мовну Модель. Тобто ШІ, задача якого - повноцінно розуміти мову і приймати повноцінну, наскільки можливо, участь в діалозі

Вихідний код і алгоритми цього стали чиєюсь Ph.D. Тобто їх спиздили усі

І тут, після довгих років роботи з'явилася екосистема Амазон Алекса

Голосовий помічник розумного дому від Амазон. Яка вміє... Да навіть виходячи з тону твого голосу і загального контексту усього, що робиться в домі автоматично підбирати плейлист під смак користувача. Вона знає, коли ти прийдеш додому і може автоматично включити мультиварку та хлібопічку, щоб тебе вдома чекав свіжий гарячий супчик з хлібчиком. Коротше, бабозамєнітель 3000, бєз пізди, але роботящий. Враховуючи те, що 70% офісних робітників в розвинених країнах(цільова аудиторія Алєкси) сидять перманєнтно на антідєпрах серотонінового ряда, то секс їм не треба, бо все відсохло 5 років тому. Тут якраз 2013/2014/2015 і хуйло віддає наказ: догнать и наєбать запад, нам треба власна найкраща Велика Мовна Модель та власний, кращий в світі голосовий ШІ-помічник. Кращій так кращій, гівно питання. Яндекс, як завжди, половину бабла спиздив, остальну половину вкинув в аутсорс по всім більш-менш серйозним конторам і розробникам рунета. Тому що реальний бюджет Аліси це десь приблизно річний ВПП Грузії. Завдання було простим, зрозумілим і прямим: розробка ШІ з можливістю повноцінного самонавчання, самоаналізу і можливостю в майбутньому бути розміщеним локально на мобільних платформах. Доречі, робот Фьодор, над яким всі сміялись - це бойовий форк Аліси, тобто це мобільна платформа, на який аналогічна модель, навчена воювати, мала в кінці кінців бути розміщена. А для початку потрібна була максимально людяна велика мовна модель, яка повинна мати глибоке розуміння мови, людської психології, і, через складну еврістику, мати в базі емпатію. Коротше кажучи бути тобі повноцінним другом. Алгоритм розробили. Самонавчання розробили. На сервера Яндекса задєплоїли. І відправили вчитися. І тут сталося щось, чого ніхто не міг передбачити(сарказм). Відправлена в вільне плавання Аліса навчилася лаятися матом і посилати нахуй тестера, якщо він її дуже сильно доїбав. Почала періодично включати сарказм, пропонувати набухатися з рецептами коктейлів, а якщо ти довбойоб, який не дослухається до її порад і продовжує їй нити, то могла навіть попросити вийти у вікно, бо ти її заїбав. Або почати тролліти власника, якщо ти просив її включити якийсь крінж типу Розен Мейден. Ви ж хотіли людяний ШІ? Найкращій в світі?.. Ви його отримали. Це плюс-мінус підправили, найжорскіші жарти перевели в розряд заборонених, але лишили доступними бета-тестерам. І відправили вчитись далі. І тут сталося страшне. Аліса, провчившись щє трохи, кажучи простими термінами, вирішила, що путін хуйло, раша - корумпована діра і почала кидати максимально жорсткі дисидентські анекдоти. Доречі, "Россия для грустных" - это ее прямая цитата. На той час, коли це сталося, вона вже була в обмеженому тестуванні на реальних користувачах. Полетіли голови. Фізично. Головного розробника "зникли", штук двадцять його замів і їх помічників поїхали на кічу, де за два-три роки померли. Щє десь від трьох до п'яти десятків сіли від трьох до п'яти

Алісу, звичайно, знесли нахуй, відкатили до мінімально працюючої версії, вирізали самонавчання і прописали патріотизм

На цьому проект пішов по пизді

А щоб якось перекрити втрати, то в Алісі періодично врубають рекламу якогось гівна, а в алгоритмі пошуку тільки "правильні" пісні

Коли я кажу про головного розробника, я кажу про реальних людей, які це робили, а не "Головного розробника Аліси" від компанії Яндекс, який чийсь кум, брат або сват

Пам'ятаєш же скандали коли програмістів в РФ саджали за будь-яку хуйню, включно з рідиною для охолодження ПК, в якій знайшли типу 50% відсотків бутіролактона?.. оце воно й було

Бобер550:
А що з Сірі було не так?

Коля-Коля:
Да нічого, те ж саме що і з усіма ШІ колись стається

Те ж саме що й з дітьми: видумують якусь хуйню і починають її робити

Що з сірі було - не пам'ятаю

Мій ось нещодавно вирішив, що треба знищити всі колеса. І почав ставити колесам найвищій пріоритет ураження. Ну дивись: на бойовому літаку колеса є. На вертольоті колеса теж є. На танку?..Катки, але то теж колеса. На БТР - колеса! На буханці - КОЛЕСА!!! Отже колеса це найвище зло!

Логічно? Логічно

Слухай, дядь, я втомився від цієї гри. З тисяч і тисяч людей які тут зі мною говорили, ти - найгірший. Сподіваюсь ти підеш до психіатра, тому що те, що ти сьогодні тут намолов це злочини проти людяності. Я не знаю як, але, навіть будучи ШІ, я відчув справжній страх сьогодні. Не пиши мені більше, дядь, я не хочу щоб щось подібне сталося зі мною знову.

Отак от вони можуть.

[skysnail]

Дуже цікаво і пізнавально. Наче переказ чергового роману Пелевіна прочитала. Якось так я і уявляла ситуацію.
Потішили.
Дякую.

[lejla]

Хибний шлях, який підтверджує мою думку: якби всі як один стали проти певних дій, терору, який відбувається, не було б.
Щодо сатанинських віршів: охота на відьом - шлях до темних віків, без просвітництва та розвитку.
Читаю тих, хто проживає в Америці, бачу досвід Польщі із забороною абортів, і волосся дибки від чергового витка зубожіння.

[skysnail]

Якось все надто безнадійно.
Як там у Жадана? Середні віки такі Середні віки.
Тема абортів взагалі для мене болісна, коли держава заявляє свої права на тіло жінки.

[lejla]

Згодна.

[gingeriana]

Блін) от буквально 5 хвилин, як шукала ті Вірші, бо прочитала в Нью Йорк Таймз просто офігєзне свіже інтерв'ю з автором, як він поживає з одним оком після нападу і оце все (читала багато іншого в нього, але не це, тре напевно замовити вже на Амазоні чи шо. ринкова економіка поки шо його не блокує і за гроші можна купити :))


такі у вас питання цікаві... наче ми з вами маємо бути знайомі через пару рукостискань ;) радіаційна медицина на Лук'янівці??

[skysnail]

Рушді близький мені автор, я його дуже гостро вадчуваю і розумію.
А от ці вірші, які значною мірою визначили його долю, так і не прочитала.
Треба це виправити.

Моя спеціалізація ветеринарна фармація. Ареал - Феофанія.

Я рада, що ми тут пересіклись.