Тема «Религия искусственного интеллекта»

Вы здесь: Форумы test.fantlab.ru > Форум «Трёп на разные темы» > Тема «Религия искусственного интеллекта»

Религия искусственного интеллекта

Страницы: 1 2 3...20 21 22 23 24...30 31 32 🔍 поиск написать сообщение

автор

сообщение

активист

20 февраля 2019 г. 21:04

цитировать | [ ]

цитата Vramin
Гораздо интереснее, какие поведенческие стереотипы ожидаются от эйайев.

Возможно, борьба за ресурсы и бесперебойное питание. А Вы как думаете?

философ

20 февраля 2019 г. 21:10

цитировать | [ ]

цитата viantin
А Вы как думаете?

Я думаю головой (шутка). Где вы видите системное отличие конфликтов человек-человек и человек-искин в том, что написали?

цитата viantin
борьба за ресурсы и бесперебойное питание

Человеки вполне успешно и между собой грызутся за это. Зачем огород городить с эй-айями, если это все мотивы, которые вы можете предложить? (К слову: бесперебойное питание — это тоже ресурс, выделять его отдельной графой нет смысла.)

–––
I am a leaf on the wind. Watch how I soar.

философ

20 февраля 2019 г. 21:11

цитировать | [ ]

цитата viantin
Возможно, борьба за ресурсы и бесперебойное питание. А Вы как думаете?

Возможно. Инструментальная конвергенция Бострома.

активист

20 февраля 2019 г. 21:35

цитировать | [ ]

цитата Vramin
Возможно. Инструментальная конвергенция Бострома.

Предсказуемость за счет наследования. Если прототипом цифрового интеллекта непосредственно служит человеческий разум (что возможно при полной эмуляции головного мозга человека), тогда цифровому интеллекту могут быть присущи мотивы его человеческого прототипа. Такой ИИ мог бы сохранить некоторые из них даже после того, как его когнитивные способности разовьются настолько, что он станет сверхразумом.

философ

20 февраля 2019 г. 21:37

цитировать | [ ]

Думаю, что разговоры про конфликты это, во многом, результат самовлюбленности людей, склонности мерить по себе и мерить собой. Этакий хомоцентризм. Слово "конфликт" так же очеловечивают проблему, как и стремление viantin привинтить к ИИ и андроидам некие ментальные, психические качества человеков, хотя неясно как это сделать и что это такое, вообще.

ИИ и роботы могут представлять угрозу, не имея злонамеренного мотива, и еще большой вопрос, можно ли(и, главное, нужно ли) создать машинный "мотив".
Грузовик, или грейдер, или конусная дробилка, или заводской пневматический молот превратят вас в кровавые ошметки, если вы каким-то образом окажетесь в "рабочей" зоне. Но это не означает, что грейдер вас ненавидит и считает ресурсным конкурентом. Такого плана угрозы безопасности ближе и реальнее, чем некий Скайнет и прочие Матрицы.

–––
- И моря есть, и реки есть, и приличные люди есть, господин Уэф.
- Дикари. Плакать хочется.

активист

20 февраля 2019 г. 21:42

цитировать | [ ]

цитата swealwe
Человеки вполне успешно и между собой грызутся за это.

Именно это я и имею ввиду. К примеру, манипулирование ИИ различными враждующими группировками

активист

20 февраля 2019 г. 21:54

цитировать | [ ]

цитата Vramin
Возможно.

Предсказуемость за счет проектирования. Если мы можем предположить, что программисты способны разработать систему целеполагания ИИ так, что он будет последовательно стремиться достичь цели, заданной его создателями, тогда мы в состоянии сделать хотя бы один прогноз: этот ИИ будет добиваться своей цели. Причем чем более разумным он будет, тем с большей интеллектуальной изобретательностью он начнет к ней стремиться.

философ

20 февраля 2019 г. 22:14

цитировать | [ ]

цитата cianid
Грузовик, или грейдер, или конусная дробилка, или заводской пневматический молот превратят вас в кровавые ошметки, если вы каким-то образом окажетесь в "рабочей" зоне. Но это не означает, что грейдер вас ненавидит и считает ресурсным конкурентом.

Грейдер, в отличии от ИИ, не обладает вообще никаким интеллектом. Одни инстинкты.

философ

20 февраля 2019 г. 22:19

цитировать | [ ]

цитата Vramin
Грейдер, в отличии от ИИ, не обладает вообще никаким интеллектом. Одни инстинкты.

А человек обладает — это спасло тех, кто угодил в его шнеки?
Опять не туда смотрите. И грейдер и ИИ — творение человека. Поэтому в том, как творить и как обращаться с творением ключ к нашей безопасности и наша ответственность.
ИИ пока не обладает никаким таким интеллектом каковой мы ему не позволили иметь.

–––
- И моря есть, и реки есть, и приличные люди есть, господин Уэф.
- Дикари. Плакать хочется.

активист

20 февраля 2019 г. 22:25

цитировать | [ ]

цитата cianid
Такого плана угрозы безопасности ближе и реальнее, чем некий Скайнет и прочие Матрицы.

но Вы же сами писали: "И как только вопрос целеполагания будет доверен самому ИИ именно здесь мы и сталкиваемся с опасностью выхода ИИ из-под контроля."

философ

20 февраля 2019 г. 22:29

цитировать | [ ]

цитата viantin
но Вы же сами писали:

Конечно. И тогда возникает вопрос: а стоит ли давать еще одно измерение свободы ИИ, а потом кусать локти?
Я понимаю, что и хочется, и колется. Но это НАША, человеческая проблема, а не ИИ.

–––
- И моря есть, и реки есть, и приличные люди есть, господин Уэф.
- Дикари. Плакать хочется.

философ

20 февраля 2019 г. 22:29

цитировать | [ ]

Но люди движимы теми же силами эволюции, что создали и нас самих. Гонка вооружений и гонка за прибылью будут проталкивать всё более интеллектуальные и автономные системы. Потому что если кто-то решит наложить вето на такие разработки, то найдётся другой, не отягченный моралью заказчик, и он безусловно получит преимущество. В истории полно таких примеров. Церковь в средневековье пыталась запретить арбалет, как слишком смертоносное оружие, и что из этого вышло?

философ

20 февраля 2019 г. 22:30

цитировать | [ ]

цитата viantin
Именно это я и имею ввиду.

А я имею ввиду не это. Живущая во мне бритва Оккама негодует. С какого перепугу эй-ай станет кем-то там манипулировать? На кой ему это впало?

цитата viantin
Если мы можем предположить, что программисты способны разработать систему целеполагания ИИ так, что он будет последовательно стремиться достичь цели, заданной его создателями

Какое отношение это убожество имеет к эй-ай? Тупая экспертная система — это то, что вы описали. Автономность — не, не слыхали?

цитата Vramin
Грейдер, в отличии от ИИ, не обладает вообще никаким интеллектом. Одни инстинкты.

Инстинкты у грейдера? Чо? $%-\$ Вы б словарь с определениями почитали бы для начала. Полезно бывает.

–––
I am a leaf on the wind. Watch how I soar.

философ

20 февраля 2019 г. 22:32

цитировать | [ ]

цитата swealwe
Инстинкты у грейдера? Чо? Вы б словарь с определениями почитали бы для начала. Полезно бывает.

Это я иронизирую. Не принимайте слишком всерьёз.

активист

20 февраля 2019 г. 22:42

цитировать | [ ]

цитата cianid
Но это НАША, человеческая проблема, а не ИИ.

это НАША, человеческая проблема переходит на ИИ

философ

20 февраля 2019 г. 22:45

цитировать | [ ]

Вот именно. Ксенофобия, садизм и наркомания — это тоже не наши проблемы. Это проблемы эволюции, за которые нам теперь зачем-то приходится отвечать. Проектировщика на мыло.

активист

20 февраля 2019 г. 22:50

цитировать | [ ]

цитата swealwe
Автономность — не, не слыхали?

Об этом ещё до Вас обсуждалось.
cianid: "И как только вопрос целеполагания будет доверен самому ИИ именно здесь мы и сталкиваемся с опасностью выхода ИИ из-под контроля."

философ

20 февраля 2019 г. 22:52

цитировать | [ ]

цитата cianid
ИИ пока не обладает никаким таким интеллектом каковой мы ему не позволили иметь.

Ну вот! Оказывается меня всё это время водили за нос! Ай-яй-яй, как я умудрился купиться!

цитата DESHIVA

то, что ИИ появится в ближайшее время, что несколько сомнительно.

цитата cianid
Ну, он типа того..уже существует.

–––
Где здесь пропасть для свободных людей?

активист

20 февраля 2019 г. 23:01

цитировать | [ ]

цитата swealwe
экспертная система

Ошибаетесь. экспертная система — это сборник знаний экспертов. А создание программистами системы целеполагания ИИ — это определение конкретных задач для ИИ

философ

20 февраля 2019 г. 23:02

цитировать | [ ]

цитата DESHIVA
Ну вот! Оказывается меня всё это время водили за нос! Ай-яй-яй, как я умудрился купиться!
цитата DESHIVA

то, что ИИ появится в ближайшее время, что несколько сомнительно.

цитата cianid
Ну, он типа того..уже существует.

Слабенький просто пока. Только и умеет, что побеждать человеков в го. Но ничего, грядёт, грядёт трижды безлюдное царство...