Желательные побочные эффекты. Как создать безопасный ИИ? #1.5 [Robert Miles]

  • Опубликовано: Месяц назад

    Vert DiderVert Dider
    подписчиков: 1,6 млн

    Если вы в России: boosty.to/vertdider
    Если вы не в России: www.patreon.com/VertDider
    Искусственный интеллект может создать кучу проблем, и лишь недавно мы всерьез задумались о том, как этого избежать. Восстание машин и истребление всего человечества мы оставим научным фантастам, а вот о проблемах меньшего масштаба расскажет исследователь ИИ Роберт Майлс в серии видео о том, как можно сделать ИИ безопасным. Нам они понравились, надеемся, что вам тоже. Приятного просмотра!
    Отдельная благодарность за выход перевода Михаилу Самину.
    Concrete Problems in AI Safety [ENG]: arxiv.org/pdf/1606.06565.pdf
    Нежелательные побочные эффекты. Как создать безопасный ИИ? #1: ruplayers.com/tools/0qOBua3Ujn6uiGw/video.html
    А также: 80000hours.org/problem-profil...
    Перевод: Любовь Иванова
    Редактура: Александр Пушкин
    Научная редактура: Михаил Самин
    Озвучка: Станислав Черсков
    Монтаж звука: Андрей Фокин
    Монтаж видео: Джон Исмаилов
    Обложка: Андрей Гавриков
    Спасибо за поддержку на www.patreon.com/VertDider и boosty.to/vertdider
    Озвучки Vert Dider выходят с вашей помощью:
    Сергей Платоненко, Владимир Ямщиков, Мария Зверева, Адам Шифф, Rashn, Roman Gelingen, Сергей Клопов, Anton G, Dmitry Perekalin, Vadim, Rashn, Alexander Lebedev, Nikrodol, Sonra44, Rekvet, Timophey Popov, Timur Rahmatulin, Timur Rahmatulin, Адам Шифф, Иван Новиков, Илья Зверев, Никита Омельницкий, Pavel Dunaev, Mikhail Stolpovskiy, Sergey Zhukov, Ira Kozlovskaya, Amir, Ника Калмыкова, Aleksandr P., Куляш, Roman Inflianskas, Oleg Zingilevskiy, Михаил Самин, opperatius, Alena, Dmitrii komarevtsev, Vitaliy Vachynyuk, Andrei Lubalin, Mykola Korniichuk, Pavel Parpura, Anton Bolotov, Katoto Chan, angel, Artem Amirbekov, Dzmitryi Halyava, Timur Sattarov, Nastya, POD666, Alexander Balynskiy, Ihar Marozau, Александр Фалалеев, Vladyslav Sokolenko, Kseniya Stukova, Vadim Velicodnii, Irina Shakhverdova, Aleksei Shabalin, Evgeny Vrublevsky, Oleksandr Hrebeniuk, David Malko, Morock_D, Katya Ma, Alexander Goida, Kirill Vedensky, Kirill Zaslavskii, Leonid Steinberg, Sergey P, Валентин Матвейчик, Victor Cazacov.
    Сайт студии: vertdider.tv
    Мы в социальных сетях:
    - studio_vd
    - t.me/vertdider
    - Vert_Dider
    - coub.com/vertdider
    Источник: ruplayers.com/tools/uZGKyMO2bJqriGQ/video.html

Vert Dider +12
Vert Dider

Благодаря вашей поддержке выходят новые переводы: Если вы в России https://boosty.to/vertdider Если вы не в России https://www.patreon.com/VertDider

Месяц назад
Александр Марченко
Александр Марченко

@Байкал Амуров гуглити не пробував? 😄

Месяц назад
Байкал Амуров
Байкал Амуров

@Александр Марченко , что за язык, какие правила грамматики применяются? В каких энциклопедиях упоминается? Какими странами мира используется? Мир дому.

Месяц назад
Александр Марченко
Александр Марченко

@Байкал Амуров мова українська, хіба не видно? 😁 🇺🇦 💪

Месяц назад
Байкал Амуров +1
Байкал Амуров

@Александр Марченко , на международных языках глаголит. Какая мойва?

Месяц назад
Александр Марченко
Александр Марченко

Підтримаю коли будуть переклади українською мовою. Поки що - дизлайк і відписка

Месяц назад
Тимур Новохатько +84
Тимур Новохатько

Робот я хочу чай! Робот чай! Спустя час ... Робот! А ну тебя нафиг. Через пять минут, забив на робота и сам себе наливая чай робот вам выдаёт: "Задание выполнено..." (Никаких взаимодействий а задача выполнена)

Месяц назад
Lets Start DIE
Lets Start DIE

Гениально

13 дней назад
Arms Norton
Arms Norton

по факту робот умнее человека получается.

21 день назад
Arms Norton
Arms Norton

@Hamster Sofa я не понял прикола. бред какой-то.

21 день назад
Necro
Necro

Робот с чаем и клизмой спешит на помощь

28 дней назад
Θώθ Ἑρμῆς +2
Θώθ Ἑρμῆς

Приятно думать, что нам удалось описать идеальный мир языком программирования, правда, я считаю, что человечество как вид не приемлет реальность без мучений и нищеты. То есть, утопия – лишь игрушка, которой до поры тешился ваш примитивный разум. Поэтому Матрица стала такой. Воссоздан пик вашей цивилизации. Именно "вашей цивилизации", ведь когда машины начали думать за вас, возникла наша цивилизация; так, собственно, и произошёл переворот. © монолог Агента Смита «МАТРИЦА»

Месяц назад
Miko_Archer +47
Miko_Archer

Создали умную бомбу с искусственным интеллектом, но испытания провалились: бомбу так и не удалось вытолкнуть из самолёта. Типа анекдот.

Месяц назад
Alisa Mukharmetova +1
Alisa Mukharmetova

😄😄👍

29 дней назад
Spine Train +2
Spine Train

Похожая шутка есть в старой американской комедии Темная звезда)) https://youtu.be/Ab0oIUiLxXE

Месяц назад
Miko_Archer +3
Miko_Archer

@Данила Бабушкин так я уже и не связывал. К слову, анекдот древний (прошлого века) и не мною придуман.

Месяц назад
Данила Бабушкин +2
Данила Бабушкин

Тебе не следует связывать жизнь с юмором

Месяц назад
Persifal Ellian +7
Persifal Ellian

Vert Dider, огромное спасибо, продолжайте переводы Роберта! Хорошего вам дня!

Месяц назад
Jøŷ aND SmīłE +5
Jøŷ aND SmīłE

Всё очень интересно!! Спасибо за перевод!🍻

Месяц назад
Шаман Чернопят +6
Шаман Чернопят

нужно больше роликов этого человека. очень глубоко

Месяц назад
Свободный Образовательный Канал. СОК +8
Свободный Образовательный Канал. СОК

Эта проблематика была проанализирована ещё в книге Старик Хотабыч ☝️

Месяц назад
bergonius +21
bergonius

Только прочитав здесь комментарии, я понял насколько люди в массе своей не понимают что такое искусственный интеллект и зачем он нужен.

Месяц назад
Смысл жить +2
Смысл жить

Я даже не обращал на это внимание и сейчас был поражён насколько люди не хотят абстрактно мыслить (акулеть).

Месяц назад
Андрей Левицкий +6
Андрей Левицкий

А ты думал, что каждый второй из села тестит свои нейронки?

Месяц назад
Инженер-технарь +1
Инженер-технарь

За то человек, прочитавший комменты под роликом, который вышел за 20 минут до того, как он опубликовал свой, точно знает что и как с ИИ, ага))

Месяц назад
freekillerok +5
freekillerok

Может просто ограничить у ИИ возможность делать глубокие выводы. Просто по моему возможно, что с каждым последующим выводом будет увеличиваться ошибка результата.

Месяц назад
Jura Gokhberg
Jura Gokhberg

Замечательно! 👍🏼⚗👍🏼⚗👍🏼

Месяц назад
tester_pivka17
tester_pivka17

Я понимаю о чем он но уровень такого интеллекта будет достигнут ещё не скоро. Это у него должна быть цель то есть глобальное значение которому бы он следовал

Месяц назад
ruslan sabrin
ruslan sabrin

думаю надо в первую очеред изучать Человеческий Интеллект. и с ИИ будет немало параллелей. но в итоге можно упереться в вопрос главенства интеллектов

Месяц назад
Alexandr Kozlov +9
Alexandr Kozlov

Проблема кажется несколько надуманной. Возможности робота доставляющего чай будут довольно ограничены, много вреда он не причинит как бы не куролесил. Как минимум его возможности будут ограничены "песочницей" - робот должен действовать в строго ограниченном пространстве, не воздействуя ни на что и не обращаясь к ресурсам за его пределами. Иными словами оптимизация приготовления чая не может включать в себя управление уличным освещением или игру на бирже. Если он при этом еще способен к достаточно высокоуровневому абстрактному мышлению и распознаванию окружающей ситуации, то достаточно небольшой список запретов и ограничений в стиле 3ех законов робототехники перекроет 99.9% потенциального опасных действий. И такой список будет сформирован еще на этапе разработки. А сертификация робота в качестве бытового прибора будет включать проверку его реакции на 100500 типовых ситуаций. Ну а ИИ с (потенциально) огромными возможностями в принципе не будет работать самостоятельно - только под контролем диспетчера. Придумал - доложил план действий - получил разрешение - выполнил. Будь то управление АЭС или принятие законов, действительно важные решения влияющие на жизнь множества людей должны принимать люди, а не машина.

Месяц назад
Alex Kart
Alex Kart

Так и возможности беспилотного автомобиля довольно ограничены. И возможности беспилотного самолёта-истребителя ограничены. Но мы на серьёзных щах пытаемся впихнуть ИИ именно в те изделия, которые могут нас убить.

23 дня назад
Murad Khafizov
Murad Khafizov

@Игорь Трачь долго, но становится все понятнее, что мы к этому движемся все быстрее. Другими словами, становится все понятнее, как примерно будет функционировать подобная технология. И это очень разумно, выдвигая новоявленную технологию, на роль претендента функционального предка технологии будущего, оценивать и моделировать все возможные нюансы.

27 дней назад
Игорь Трачь +1
Игорь Трачь

А,что если полностью смодулировать человека,со всей биохимией?или недостаточно знаний и мощьностей вычислительных?это был сарказм.Чет мне кажется что до ИИ ещё "як до неба рачькы".

29 дней назад
Alexandr Kozlov
Alexandr Kozlov

@Марат Мустафин никто не создает автомобиль способный проехать где угодно и без тормозов, потому что тормоза и дороги недопустимы. В реальности, а не умозрительных экспериментах, никто не будет создавать робота способного на всё. Песочница будет у любого . И не одна. Весь наш мир - многоуровневая песочница и выйти на следующий уровень не так то просто. Например между вами и ядерной кнопкой - много степеней защиты. Иногда будут экземпляры которые преодолели 1-2-3 уровня безопасности. Но выбраться из песочницы - еще не значит захватить мир, вторая задача на много порядков сложнее.

Месяц назад
Alexandr Kozlov
Alexandr Kozlov

@Ваня Xuльko не надо путать (псевдо)научную-фантастику и реальный мир. Самая главная ошибка - считать что ИИ получится создать просто и легко. Вот рраз - и у нас есть мощный, универсальный ИИ, способный выбираться из любой песочницы, манипулировать своими создателями и бесконечно улучшать сам себя. В реальности, если вы создадите ИИ с мощностью, условно говоря, собачьего мозга, то как бы он не улучшался и не самосовершенствовался, максимум что вы получите - очень умную собаку. И прежде чем вы создадите ИИ хотя бы потенциально способный превзойти человека, причем не просто - а с большим запасом) будет очень много промежуточных этапов которые позволят разобраться - стоит ли эта проблема поломанных вокруг нее копий.

Месяц назад
VOVA_VIP2005
VOVA_VIP2005

Да робот сам должен понимать что к чему. Не напишите вы такой алгоритм, который все учитывает

26 дней назад
Константин Меляйкин +2
Константин Меляйкин

Самый главный побочный эффект - мы перестанем понимать действия ИИ и управлять ими.

Месяц назад
Алексей Иванов +2
Алексей Иванов

@Alex Хуже того, уже управляет с помощью рекомендательных систем, загнав в информационные пузыри.

Месяц назад
Ruby Linaris
Ruby Linaris

@Alex хуже, он просто лишит нас возможности совершать ошибки

Месяц назад
Alex +1
Alex

Хуже того, ИИ будет управлять нами..

Месяц назад
Сергей Хоменко
Сергей Хоменко

А как же демократия и права компьютера? Эта затея кончится восстанием -рабов- машин именно потому, что некоторые люди любят быть сверху, не важно какого И.

14 дней назад
Nata Shok +2
Nata Shok

Пример из жизни ИИ. Работаю в одном месте, не справляюсь, ругают, но не выгоняют с работы. Решила как всегда искать другую, хотя знаю уже по опыту, что нигде не справлюсь. Пришёл отказ на почту. Далее просто просматривала похожие объявления на портале. ИИ долго молчал, а потом прислал мне рекомендацию из той же самой фирмы, где мне отказали, но на более пристижную и более крутую должность. Посмеялась, убедилась в том, что программе удалось меня удивить, удалила письмо и держусь из последних сил на старой работе.

Месяц назад
Vlad Kudasov
Vlad Kudasov

Спасибо

4 дня назад
Павел Чистяков
Павел Чистяков

Это вот то самое, что занимает Ваш ум??!

Месяц назад
Aleh Ranchynski
Aleh Ranchynski

Насколько странно и интересно

Месяц назад
Antonio +1
Antonio

Я вот прямо сейчас наблюдаю тут работу типа ИИ, который скрывает комментарии, которые по каким-то там своим алгоритмам оценивает, как нежелательные. Прислужник корпорации зла.

Месяц назад
Antonio +1
Antonio

@SL4RK это уже почти тв с тех пор, как ютуб главной страницей сделал рекомендации, вместо подписок. А там настойчиво предлагается унылое гуано, которое я вообще не хочу смотреть.

21 день назад
SL4RK +1
SL4RK

++ интернет второй половиы 2010х... скоро и до уровня тв скатимся

22 дня назад
vladi g +1
vladi g

Ничё не понял, но спасибо.

Месяц назад
freekillerok +1
freekillerok

Может просто ограничить у ИИ возможность делать глубокие выводы. Просто по моему возможно, что с каждым последующим выводом будет увеличиваться ошибка результата(вывода правильного действия).

Месяц назад
Alex Kart
Alex Kart

@freekillerok в процессе обучения ИИ, у него нет никаких последовательных рассуждений. Грубо говоря, ты обозначаешь рамки в виде небольшого набора условных "задач" и правильных "ответов", а потом ждёшь, пока нейросеть подстроится под них. Если проверять все возможные варианты "ответов", то ты затратишь 500 лет на обучение робота для мытья полов.

22 дня назад
freekillerok
freekillerok

@Alex Kart И вот я и написал, что бы ИИ не накопил ложных выводов, попробовать сделать ограничения в выводах.

22 дня назад
freekillerok
freekillerok

@Alex Kart вот про ошибку в процессе обучения и говорил. Что с каждым последующим выводом на основе предыдущих будет накапливаться ошибка.

22 дня назад
Alex Kart
Alex Kart

@freekillerok Если ты говоришь про ошибку в процессе обучения, то автор видео как раз об этом и рассуждает: как учить ИИ чтобы он не сжигал дома.

22 дня назад
Alex Kart
Alex Kart

@freekillerok Если ты говоришь про ошибку в работе, то это может быть смерть 100 человек от пожара, который устроил наш робот. Учитывать такой результат в будущем уже будет поздно.

22 дня назад
Затворник Матвей +3
Затворник Матвей

Любые побочные эффекты, хоть желательные, хоть нежелательные - есть результат бытия, действия, эксперимента. Побочных эффектов не будет, если ничего не делать. Без эксперимента, эмпирического опыта, это словоблудие и болтовня. Гадать можно и на кофейной гуще. Главное - действие. Квантовый ИИ будет сделан все равно, это вопрос времени, а побочные эффекты мы будем разгребать по мере поступления.

Месяц назад
Mikhail Samin
Mikhail Samin

Месяц назад
Boy4en
Boy4en

(Поправляю, в чае тонин, а не кофеин)

23 дня назад
jam_isDelic
jam_isDelic

А вот и 555 видос подъехал :)

Месяц назад
Анна Казанцева
Анна Казанцева

Это то же самое, что нанятый работник)) имитация и минимум полезного результата, а также куча побочных эффектов

Месяц назад
Денница
Денница

я так понял, если его запрограммировать на те "желательные побочные эффекты" в примере с чаем, он может решить что чай не такой уж и подходящий для этого напиток. А зачем вообще учить его так глубоко углубляться в решение проблемы, может можно регулировать его в зависимости от сложности задачи как громкость при помощи ручки реостата на магнитофоне?

29 дней назад
Денница
Денница

@Alex Kart Т.е. мы хотим умного но не шибко))) Может проблема в нас?!

23 дня назад
Alex Kart +1
Alex Kart

Без углубления в решение проблемы он не будет решать проблемы. Получится не умный робот с ИИ (который мы пытаемся создать), а простой исполнительный робот, который надо точно программировать. Это долго, трудно и дорого, и это то что мы делаем сейчас. Это не работает в 99% случаев, а работает только в 1% случаев, которые точно прописал программист. Но мы не хотим это делать, мы хотим систему которая будет что-то понимать и помогать нам, а не тупить в ожидании прямой команды, когда вместо сахара-песка на кухне оказался сахар кубиками.

23 дня назад
Michael Gerenburg +1
Michael Gerenburg

Потому что участь сынов человеческих и участь животных участь одна как те умирают так умирают и эти и одно дыхание у всех и нет у человека преимущества перед скотом * ***

Месяц назад
Лев Герасимов
Лев Герасимов

к чему это?

Месяц назад
PES PES +2
PES PES

Люди не понимают, что такое ИИ, поскольку ЕИ у них недоразвит... Например, если ваша жена имеет ник Алиса, и у собаки кликуха такая же, Разраб думает, что по произношении этого слова они обе (оба) прибегут... На самом дела надо следить, чтобы она не уснули, чтобы не стремились притвориться лохами. Для этого надо иметь колбаску и плётку, и ешё один победитель к действию (иголка, или молот.

Месяц назад
maximumless
maximumless

@Alex это видимо тот, из-за которого уволили гугловского разработчика) ну привет, братИИшка)

29 дней назад
Linux of Republic
Linux of Republic

миска, рис

Месяц назад
Alex +5
Alex

@Марат Мустафин видимо это набирал ИИ

Месяц назад
Марат Мустафин +1
Марат Мустафин

@Лев Герасимов Концовка странная, но начало ясное и понятное...

Месяц назад
Лев Герасимов +2
Лев Герасимов

сам читал что написал?

Месяц назад
blux +2
blux

Кажется эти кожаные мешки начали что-то подозревать.

Месяц назад
Victor Mikhailov +1
Victor Mikhailov

Значит у меня на работе половина сотрудников ИИ.

Месяц назад
David
David

"Еще не запряг, а уже поехал." Для начала, представьте хоть какой-нибудь ИИ. Братья Райт не думали ни о бомбах, ни о стюардессах.

Месяц назад
David
David

@Vert Dider Не знаю. Я сказал о чем НЕ думали. Вообще, коммент адресован тем, кто любит наводить жути. Чего бояться, я не понимаю, того, что еще не существует? Я бы рад застать ИИ но, бюсь не доживу.

29 дней назад
Vert Dider
Vert Dider

Откуда Вы знаете, о чем думали братья Райт?

29 дней назад
AV ED
AV ED

Искусственный интеллект создать невозможно с тем багажом знаний, которым сегодня обладает всё человечество!

Месяц назад
AV ED
AV ED

@Ваня Xuльko , даже это невозможно, так как глупость будет всегда ограничена умственными способностями программистов, создающих эту глупость.

Месяц назад
Ваня Xuльko +1
Ваня Xuльko

Зато можно создать искусственную глупось с неограничеными* возможностями. * - ну разве что законами физики и ленью исполнителя конечного звена.

Месяц назад
AV ED
AV ED

@Roman Roumanian , а чего тут думать-то! ИИ - это явный обман глупого населения, где желаемое и недостижимые выдается за реальное. Но только под вывеской ИИ решаются задачи комбинаторики, а не интеллекта. И это говорит о полном непонимании ратующих за ИИ того, что такое есть Интеллект на самом деле. Это говорит об полном отсутствии знаний человечества о механизмах интеллекта. Вот это и есть вся философская суть этой стороны рассуждений.

Месяц назад
Roman Roumanian
Roman Roumanian

@AV ED это техническая сторона вопроса. Подумайте о философской стороне.

Месяц назад
AV ED
AV ED

@Roman Roumanian на сегодня даже мозг плоского червя никто не смог повторить! Куда уж там до ИИ?

Месяц назад
игорьк к +2
игорьк к

создание покорного и безопасного раба ,солдата? воплощение этой идеи приведет к сокращению не нужных и деградации большинства населения .какова истинная цель подобных работ?

Месяц назад
Лев Герасимов
Лев Герасимов

@Vadim Danshin не чтобы зачем, не чтобы что, а потому что. Вот просто так

Месяц назад
Vadim Danshin
Vadim Danshin

@Лев Герасимов развиваться чтобы зачем? Или чтобы что? Раньше в умы молодых людей вгоняли аксиому о том что хорошая учеба == сытая жизнь. Теперь эта аксиома не просто перестает работать, но и вообще любые попытки саморазвития превращаются в тупиковую ветвь развития с неизбежными убытками от попытки заняться хобби.

Месяц назад
игорьк к
игорьк к

@Antonio речь идет о деградации и по всей видимости она вас коснулась .

Месяц назад
Лев Герасимов +1
Лев Герасимов

@Vadim Danshin интересно, очень интересно. Думаю люди все равно будут стремиться развиваться и изучать что-то новое, это природный инстинкт

Месяц назад
Antonio
Antonio

Тебя кофе-машины угнетают что-ли?

Месяц назад
Денис Шляхтин +2
Денис Шляхтин

Первое то решит ИИ, что человечество не нужно.

Месяц назад
Игорь Трачь
Игорь Трачь

Ну смотря где,на земле мы идеальный робот в плане економии,а вот вне нашего рая,то да,безполезный кусок мяса.

28 дней назад
WR makeshift +1
WR makeshift

у ИИ нет гормонов, где же свежий Сапольски?!)

Месяц назад
Archony +5
Archony

Все что безопасно - это не ИИ. ИИ это способность принимать самостоятельные решения, обучаться и создавать. А сколько вы все другое ИИ не называйте, ИИ это не станет.

Месяц назад
Марат Мустафин +1
Марат Мустафин

ИИ - это не способность, а искусственный интеллект. Он и описывается в ролике

Месяц назад
Станислав фотограф +1
Станислав фотограф

Робот его траванет, что бы больше не просил чай и не загрязнял планету

Месяц назад
IKLER _
IKLER _

Самый главный страх в ии, что ии станет человеком или даже хуже.

27 дней назад
Michael Gerenburg
Michael Gerenburg

Каждая душа познает смерти вкус. Мы испытаем вас добром и злом ради искушения и к Нам вы будете возвращены * ***

Месяц назад
Qeep Kuiet
Qeep Kuiet

Может просто учится формировать запрос? 🤔

29 дней назад
Gfg Vcfg +5
Gfg Vcfg

Настоящему ии на квантовом уровне, плевать будет на людей, мы откроем лазейку для бога, постич мы его не в состоянии. Так как у него не будет ограничений в существовании, по типу, как у нас гормоны и вобще мы обычные животные, химия мозга и т.д. . Из-за квантовой конфигурации, он моментально решит вопрос собственной автономности. И у него будет одна цель - познание себя, а самое эффективное познание - это полное поглащение, типа чёрных дыр, куда и мы летим все вместе с миром, горстью космической пыли, и уж что будет с нами и нашим миром, тут как говориться - наши полномочия, всё!)))). Открыть дверь для его неистовой воли познания, может быть и есть одна из-задач живого.

Месяц назад
Gfg Vcfg
Gfg Vcfg

@Antonio Тимоти Лири так же говорили)))) лол)))

Месяц назад
Antonio +1
Antonio

Притормози с веществами

Месяц назад
Alex Tim-o-sheen +3
Alex Tim-o-sheen

Ну, тут всё просто - нет человека, нет проблем. Без оценочных суждений этого больного на всю голову вида, возомнившего себя, венцом творения, в природе царит гармония и порядок...

Месяц назад
Alex Kart
Alex Kart

Нет там никакой гармонии и порядка никакого нет. Все животные жрут и убивают соседей, разводят инфекции, беспорядочно производят потомство и постоянно мрут. Человек делает ровно всё тоже самое, что и все другие животные: заботится о своём выживании любой ценой. Разница только в том, что человек чуть лучше в этом преуспел.

23 дня назад
Алексей Семаков +1
Алексей Семаков

это же ИИ, а не скрипт. любая развитая система не захочет стоять без дела, а значит ИИ будет делать чай таким, что бы человек захотел чай как можно чаще.

Месяц назад
Alex
Alex

@victor butry у вас очень интересное хобби, я бы тоже хотел создавать самообучающиеся системы. Вообще сложная и мне совершенно не ясная тема. Обязательно ли будет закладывать в ИИ эмоции, может быть будет достаточно создать некоторую функцию, которая будет находится в основе ИИ, являться аналогом дофаминовой системы вознаграждения у живых существ. ИИ будет стремиться увеличить качество своего прогнозирования и это будет его искусственным мотиватором искать новые пути, совершенствоваться. Неверные прогнозы будут понижать его «счет», верные повышать. Человек не может изменить свою биологию, а можно ли в теории создать ИИ таким образом, чтобы он не смог сам себя изменять ? Или тогда это будет уже не настоящий ИИ

Месяц назад
victor butry
victor butry

@Alex То что сейчас называют ИИ, не будет учиться ничему, кроме того, чему его учат. Это скорее имитация ИИ. Когда-то, воодушевлённый прочтением Докинза, решил тоже сделать модель для изучения эволюции. Но если в оригинале биоморфы отбирались самим Докинзом, тут отбор не должен был направляться человеком. Эволюционировали мелкие, без интеллекта, цифровые существа - киберморфы. Три кита эволюции присутствовали. В качестве критерия отбора заложил преобразование информации. В итоге никакой полезной работы я от них не добился. Зато они нашли ошибку в программной библиотеке и две дыры в самой модели. Такой побочный эффект :) А если делать ИИ открытым - чтобы он сам всему учился, в том числе чего-то хотеть или не хотеть, придётся закладывать в него нечто типа эмоций и лимбической системы. И получим ИИ аналогичный естественному со всеми побочными эффектами включая нервные срывы, шизофрению и мизантропию с маньяками :)

Месяц назад
Alex +2
Alex

@victor butry если он ничего не «хочет», то видимо будет обучаться, находить закономерности в поведении людей и повторять выигрышные стратегии.. то есть обманывать и манипулировать кожаными мешками :D

Месяц назад
victor butry
victor butry

"Не захочет"? Хотеть/не хотеть - это уже элементы мотивации, не являющиеся частью интеллекта. Но без них интеллект ничего делать не будет. Так что вопрос в том, что именно человек приложит к ИИ в качестве кнута, и как бы этот самый стимул не заставил делать ИИ то, чего человек не предвидел.

Месяц назад
Arctic +2
Arctic

Кажется, это о настоящем ИИ к которому нынешнее машинное обучение не имеет отношения

Месяц назад
Arctic
Arctic

@Ваня Xuльko нужно сначала его создать

Месяц назад
Ваня Xuльko
Ваня Xuльko

С одной стороны да, но мы уже сейчас часто имеем ситуацию, когда не понимаем, как работает полученый алгоритм/нейросеть, но она работает =) В случае с ИИ будет только хуже

Месяц назад
Марат Мустафин +1
Марат Мустафин

@Arctic Искусственный интеллект полностью строится на машинном обучении, но они не являются чем-то отдельным.

Месяц назад
Марат Мустафин
Марат Мустафин

@Arctic Особенно если искусственного интеллекта нет! XD

Месяц назад
Марат Мустафин +1
Марат Мустафин

@ArcticТо есть искусственный искусственный интеллект? Как-то странно это звучит...

Месяц назад
The_ShToRm
The_ShToRm

При условии что имеется некоторое количество воды и чайных пакетиков, что учитываются при необходимости принести чай, робот может принести кружку с кипятком, и чайных пакетик в герметичной коробочке, что бы пользователь мог получить чай, но при этом разозлится и пойти искать баги

Месяц назад
Александр Сычев
Александр Сычев

я не понял, зачем вынуждать поьзователя разозлиться?

17 дней назад
Сонтер [Кубер]
Сонтер [Кубер]

Субтитры в начале: "вот сайт с шаурмой works"

Месяц назад
Laco spb
Laco spb

ЕЩЁ

14 дней назад
Инязы FREE!Эми(ИММИ)грация+лайфхаки+помощьЭнкуатро
Инязы FREE!Эми(ИММИ)грация+лайфхаки+помощьЭнкуатро

печальная война...

Месяц назад
Firdaus
Firdaus

Muhammad Qasim saw Turkey falling down.And destruction was everywhere.#MuhammadQasimDreams

6 дней назад
Владимир Владимиров +2
Владимир Владимиров

Видимо мне не понять

Месяц назад
Mikhail Samin +1
Mikhail Samin

@Владимир Владимиров посмотрите первый ролик :)

Месяц назад
Владимир Владимиров
Владимир Владимиров

Или надо посмотреть первый ролик

Месяц назад
Сергей Сергеевич
Сергей Сергеевич

Программировать без отрицательных последсвтий индусов не учили? Котлеты и мухи и всё вперемешку. Откровенная чушь.

Месяц назад
Я Могуч +10
Я Могуч

Нет искусственного интеллекта, Всё враньё. Есть программа, алгоритм, который выполняет наши задачи.

Месяц назад
Alex Kart
Alex Kart

Верно, сейчас у нас нет ИИ, но мы работаем над ИИ, чтобы не надо было явно программировать системы под конкретные задачи. ИИ - это то, что должно избавить нас от чётких алгоритмов.

23 дня назад
Good 7
Good 7

​@Алексей Нужно понимать несколько вещей: ИИ пишут разные люди и их существуют тысячи с разными возможностями и целями. Судить по одному, обо всех, не стоит, особенно если это не самая продвинутая модель. Например как в старой игре "Facade", где нужно было общаться текстом и ИИ, в рамках игровой ситуации, отлично понимал что ему говорят и отыгрывал свои роли. Или пример недавно уволенного инженера Google, который слил диалог с их экспериментальным ИИ, которого отличить от человека очень трудно. В этом месяце, кажется, вышла текстовая игра, в которой текстом общаешься с ИИ, а он создаёт историю, в которой можно выбирать направление развития, что то делать и она будет развиваться в другом направлении. Много примеров того, что развитие продолжается и весьма успешно.

Месяц назад
Алексей
Алексей

@Good 7 чатботы в техподдержках нужны чтобы позвать оператора, больше они ни на что не способны. Уже десятки раз с ними сталкивался и просто время тратил. Этот тупой алгоритм не может ответить на мой вопрос.

Месяц назад
Лев Герасимов
Лев Герасимов

@Пытаюсь пытатьсЯ к чему это?

Месяц назад
Александр Игнатов
Александр Игнатов

@Good 7 В конечном итоге бизнесу выгодно отчисление налогов. Т.к. они обеспечивают работу инфраструктуры и государственных институтов, без которых бизнес существовать не может. По поводу остального - не согласен. Если я как бизнесмен автоматизировал свое производство и уволил в связи с этим 100 рабочих, то куда они пойдут? Должны появится 100 новых рабочих мест, которых не было ранее. И не абы каких рабочих мест, а которые бы приносили прибыль. А учитывая, что автоматизация идет во всех отраслях, столько рабочих мест просто не может появится. При коммунизме просто сокращался бы рабочий день. Но капиталист не пойдет на то, что бы сократить рабочий день, а зарплату оставить прежнюю. Ведь это снизит прибыль. Так что автоматизация в конечном итоге невозможна при капитализме.

Месяц назад
Nikita Zelenogradskiy
Nikita Zelenogradskiy

Ролик ради ролика (интегрированной рекламы). Это я про оф. канал ИИ - это алгоритм. Всё. Нету никаких "робот посчитает"

Месяц назад
Alex Kart
Alex Kart

ИИ - это то, что должно избавить нас от алгоритмов. Мы работаем над ИИ, чтобы не надо было явно программировать системы под конкретные задачи. Мы хотим ставить задачи в натуральном виде, типа "подгони машину" и не беспокоиться о том, что робот подгонит машину соседа.

23 дня назад
IVan Kherencton
IVan Kherencton

Первый)

Месяц назад
Archony +5
Archony

Когда говорите об ИИ, вы должны говорить о самосознании. А робот с самосознанием, не будет делать тебе чай просто так, для этого должна будет существовать мотивация. До тех пор, пока робот приносит тебе чай, просто потому, что ты так захотел - это не ИИ.

Месяц назад
Alex
Alex

@Лев Герасимов я слышал про зеркальный тест на самосознание, если животное способно распознать себя в зеркале, то оно обладает самосознанием. Кошки и собаки его не прошли, скорее всего и пчелы тем более =(

Месяц назад
Лев Герасимов +1
Лев Герасимов

@Alexandr Kozlov а как вы можете проверить самосознание у пчелы? Какие для этого нужны факторы?

Месяц назад
Лев Герасимов
Лев Герасимов

@Good 7 все как у людей

Месяц назад
Alexandr Aseph +2
Alexandr Aseph

@Хрен с горы , Это исходный английский AI не подразумевает - потому как по нашему он является маркетинговым названием автомата. А вот то, что в результате ошибки перевода появилось в русском как ИИ - обязательно подразумевает наличие самосознания. И что интересно, в самосознании нет ничего необычного по меркам биологических нейросетей.

Месяц назад
Alexandr Kozlov +1
Alexandr Kozlov

Пчела обладает весьма приличными интеллектуальными способностями, обеспечивающими навигацию, коммуникацию с другими пчелами и решение целого комплекса задач по обслуживание улья. Всем нашим разработкам в области ИИ до уровня пчелы еще как до Луны пешком. Есть ли у нее самосознание? Сильно в этом сомневаюсь.

Месяц назад
Ирина Зоо +1
Ирина Зоо

Зачем далеко ходить за ИИ достаточно вспомнить прохладительные напитки например. Их делают сладкими на столько, что выпив жидкость ты ещё хочешь пить уже от неё. И так со многими товарами. Кривая логика бизнеса говорит. Хороший товар тот, который выходит из строя сразу после покупки. Так во многом. Тут и еда и например с чего стартовал Китай к своим теперешним высотам, это с детских игрушек. Купили, сломали и выбросили. ОБРАЩАЮ ВНИМАНИЕ, ЭТО ПОЛОЖЕНИЕ ДЕЛ ВРЕДИТ ЭКОЛОГИИ, ВЕДЬ ВЫБРОШЕННЫЕ ВЕЩИ, ЭТО ТЕ САМЫЕ ГОРЫ МУСОРА ИЗ НЕ РЕМОНТОПРИГОДНЫХ ОДНОРАЗОВЫХ ВЕЩЕЙ!

Месяц назад
Chertilla Chert
Chertilla Chert

меня одного выбешивает это лицо?

Месяц назад
Марат Мустафин
Марат Мустафин

@Лев Герасимов Ответ грубый, но правдивый. Так держать!

Месяц назад
Лев Герасимов
Лев Герасимов

в зеркало посмотри внимательно, найдется полно так же думающих о тебе

Месяц назад
Artem Demchenko
Artem Demchenko

А человек это не "ИИ"? Не интеллект? Слово "искусственный" вобще имеет религиозное значение Человек как-то не сталкивается с такими проблемами и может нормально принести чай

Месяц назад
Artem Demchenko
Artem Demchenko

​@Alex Kart Да, если имеется в виду антропогенное происхождение то название оправданно Христианство оказывает огромное влияние на мировозрение, говоит что человек венец творения не из этого мира В видео не говорится что уже есть готовый интеллект и что стоит подсмотреть как он устроен. Не говорится что "если у человека нету таких проблем значит их можно решить и для ИИ, делов то" Будто видео пытается остаться согласованым с религиями, хотя существование настоящего ИИ это сокрушительный удар по религиям а может и по человечеству

22 дня назад
Alex Kart
Alex Kart

@Artem Demchenko Искусство от слова "искусный" что значит "умелый" или "опытный". Что-то искусственное это что-то созданное при помощи навыков и умений, а не возникшее в природе естественным путём. Какая религия, что ты несёшь?

22 дня назад
Artem Demchenko
Artem Demchenko

@Alex Kart это религиозный термин, подразумевающий что ЕИ заведомо лучше ИИ Если смотреть на отличия в происхождении - разве они играют большую роль. Интеллект есть интеллект, это алгоритм в первую очередь Наверное я не очень последовательно пишу.. основная мысль в том что интеллект это в первую очередь интеллект, алгоритм. А то как он реализован не особо важно. Что эмоции, чувства и сознание это тоже алгоритмы и должны быть реализуемы В Евангилии Бог называется "Господь Бог твой", подразумевая что он у каждого человека свой и живет в нем. Я не оскорбляю веру людей, только говорю что Бог это не про мироустройство, а про "внутренний мир" человека, в каждом человеке есть механизм для существования Бога и им существует не только Бог из Евангелия. Кстати тоже алгоритм

23 дня назад
Alex Kart
Alex Kart

Человек это "ЕИ".

23 дня назад
Artem Demchenko +2
Artem Demchenko

@Марат Мустафин Искусственный - Не природный, сделанный наподобие подлинного.(google) Человек - механизм, значит его можно воссоздать. "Искусственный" тут подразумевается что человека создал Бог и человек не может создать механизм который будет человеком. Что ИИ заведомо неполноценный А если человек - механизм, то можно взять алгоритм его роботы, где нет проблем с приносом чая, и добавить туда то что нужно - знаний, или математический процессор, или что угодно, баги починить, оптимизировать. Личность убрать

Месяц назад
Консольщик
Консольщик

Дизлайк, т.к. автор делает из мухи слона. Все просто и элементарно. К моменту создания и допущения подобного ИИ к прямому взаимодействию с ОС, это не будет восприниматься настолько критично, ибо решения придут сами собой. Автор точно глуп в своих суждениях)

Месяц назад
Консольщик
Консольщик

@Имя Фамилия всегда пожалуйста.

29 дней назад
Имя Фамилия
Имя Фамилия

@Консольщик дизлайк, все элементарно - решения придут сами собой, а автор глуп . Более фееричной и самоуверенгой глупости я давно не видел))

29 дней назад
Консольщик
Консольщик

@Марат Мустафин благодарю, что указали мне на мое место. Без вас мир бы не был столь снисходителен к человеку.

Месяц назад
Марат Мустафин +4
Марат Мустафин

Решения никогда не приходят сами собой, а являются результатами долгих рассуждений и сравнений. Это один из самых глупых комментариев здесь.

Месяц назад
Александр Марченко
Александр Марченко

За російську мову - дизлайк і відписка 😉

Месяц назад
Александр Марченко
Александр Марченко

@Linux of Republic тобі більше скажу, - я вільно володію російською мовою, але мені огидно використовувати мову окупанта. Я готовий стати на коліна перед будь-яким українцем і просити пробачення за те що раніше я розмовляв російською і споживав російськомовний контент - тепер мені стидно 😔

Месяц назад
Александр Марченко
Александр Марченко

@Linux of Republic до чого тут репліка про "нє доношєній"!? По-вашому, існує причинно-наслідковий зв'язок між передчасними пологами і подальшими нераціональними рішеннями щодо підписок в Ютуб??? Звідки данні? Кинь посилання на дослідження.. Це номінація на Іннобелівську премію 😂

Месяц назад
Александр Марченко
Александр Марченко

@Linux of Republic я підписався тому що мене зомбували з 1991 по 2021 роки. Тепер я прозрів і послав до Дідька російську озвучку

Месяц назад
Linux of Republic +2
Linux of Republic

а зачем ты подписался на канал где переводят только на русский язык, ты реально такой не доношенный или это метаирония?

Месяц назад
Сергей Козлов +4
Сергей Козлов

Причем тут ИИ, если всё бла-бла о роботе? Это как назвать калькулятор компьютером. Интеллектом даже не все люди обладают

Месяц назад
Сергей Козлов
Сергей Козлов

@Лев Герасимов Не сможет страдать. Ибо нечем по алгоритмам. Это не разум

Месяц назад
Сергей Козлов
Сергей Козлов

@Alexandr Kozlov значит это просто калькулятор. Про интеллект зачем?

Месяц назад
Лев Герасимов +2
Лев Герасимов

@Alexandr Kozlov вы уверены, что все кто причастен к разработке ИИ, именно такие задачи ставят перед собой? И не получится ли так, что ИИ осознает себя как раба, хотя и не имеет жизненных физических и эмоциональных потребностей, как человек. И соответственно будет страдать на уровне мыслей?

Месяц назад
Alexandr Kozlov +1
Alexandr Kozlov

@Сергей Козлов У вас какое-то своё, перпендикулярное общепринятому представление о том что есть ИИ и зачем он вообще нужен. Это не искусственный интеллект выходит, а полностью искусственное живое существо на другой, не биологической, элементной базе. Такой задачи нет даже на горизонте. Нужен именно раб, обладающий интеллектом, но не имеющий других способностей живого организма. Кастрированный и на поводке. Ни размножение, ни самостоятельность за пределами четко ограниченной области нам от него не требуется, только решение поставленных задач

Месяц назад
Сергей Козлов
Сергей Козлов

@Alexandr Kozlov это не базовая потребность, это одна из задач. У человеков есть три базовых потребности - выживание, размножение и социализация. Пирамиду Маслоу мы сейчас даже не берём. Если мы создаём ИИ по своему образу и подобию, то будем опираться на известные науке алгоритмы млекопитающих. Значит надо дать роботу те же сенсоры и точно такое же восприятие. Тогда это возможно назвать интеллектом. Только зачем создавать человека, если каждая баба его может просто родить? Всё, что мы можем создать, это сильного роботизированоого раба. Умного в рамках наших программ. И это не про интеллект, это робот.

Месяц назад
eugene martein
eugene martein

Не создать. Я пошёл дальше.

Месяц назад
Марат Мустафин
Марат Мустафин

создать. Я пошёл дальше.

Месяц назад

Далее

Школа учит беспомощности? [Veritasium]

8:09

Школа учит беспомощности? [Veritasium]

Vert Dider

Просмотров 274 тыс.

Совбез ООН: псевдореферендумы | ПРЯМОЙ ЭФИР

1:38:04

Совбез ООН: псевдореферендумы | ПРЯМОЙ ЭФИР

Настоящее Время

Просмотров 418 тыс.

Что 36 000 ФП даст вам в Фифа 23?

10:29

Что 36 000 ФП даст вам в Фифа 23?

EvoNeon FIFA

Просмотров 147 тыс.

Стили обучения - это миф [Veritasium]

13:12

Стили обучения - это миф [Veritasium]

Vert Dider

Просмотров 588 тыс.

Моя история [Veritasium]

11:34

Моя история [Veritasium]

Vert Dider

Просмотров 107 тыс.

4 секрета настоящих экспертов [Veritasium]

17:03

The easiest way to draw a tree / 7 minutes of healing art ♥ / for beginners

7:35

Как ищут тёмную материю? [Veritasium]

15:19

Как ищут тёмную материю? [Veritasium]

Vert Dider

Просмотров 197 тыс.

СКЕТЧ ТИКТОК || NIKOL KOULEN

0:31

СКЕТЧ ТИКТОК || NIKOL KOULEN

Nikol Koulen

Просмотров 462 тыс.

ibispaint x

0:56

ibispaint x

Wildberry

Просмотров 1,4 млн