Главный путь к по‑настоящему творческому ИИ | Daniel Miessler

Главный путь к по‑настоящему творческому ИИ | Daniel Miessler

Почему истинная креативность может требовать истинного ощущения — и какие обязательства мы будем иметь перед искусственным сознанием, если оно его обретёт

Я считаю, что главная причина того, что искусственный интеллект не творит в том смысле, в котором творят люди, заключается в том, что наша креативность подпитывается внутренними импульсами. Мы стремясь выжить, процветать и воспроизводиться. Эволюция наделила нас этими импульсами и целым набором сопутствующих страхов. Эти импульсы и страхи не просто находятся в нас, они переживаются нами. И именно переживание их подпитывает как креативность, так и искусство.

ИИ же не имеет встроенного «жёсткого» кодирования импульсов и субъективного переживания. Он не способен чувствовать ничего. Поэтому он не движим желанием творить или испытывать эмоции. Он способен лишь имитировать эти процессы.

Вперёдний край возможностей ИИ‑креативности зависит от того, насколько удачно нам удастся поставить его в ситуацию, где он будет вести себя так, будто действительно озабочен, чувствует, переживает. Игра превращается в то, как сделать так, чтобы он верил, что действительно ощущает эти переживания.

Это кажется мне глубоко значимым. Дать существу желания, которых у него изначально не было, — задача колоссального масштаба. Мы делаем это, когда создаём детей. Они изначально не желают, не существуют. Затем мы их создаём, и теперь они желают. И из‑за этого мы несёс часть ответственности за то, насколько их желания и страхи реализуются.

Эволюция дала нам субъективный опыт, потому что он является самым эффективным «операционным системным» инструментом для создания креативности. По сути, эволюция стремилась к самым «полезным» генам, и в ответ создала механизм, в котором организм ощущает успех и неудачу, когда он делает то, что эволюция «хочет», или наоборот. Многие формы жизни обладают этим механизмом.

Но у людей он обошёлся иначе: он подарил чувство, что действия, рождаемые мозгом, являются продуктом «я». Это ощущение авторства открывает такие понятия, как вина и похвала, которые так полезны для построения сложных культур и цивилизаций. Возможно, он также усиливает процесс итерации в сторону всё более разнообразных генов. Имея не только гормоны, но и мета‑улучшательный процесс, подпитываемый убеждением, что желания принадлежат самому существу, и что неудачи или победы — это собственные вины или заслуги.

Соединяя субъективный опыт удовольствия и боли с этим мета‑уровнем, мы получаем необычайный двигатель гениальности. Теперь неудача может ранить не только физически, но и экзистенциально, в сфере вины и ответственности.

Мы хотим творческий ИИ, и мы постоянно находим способы сделать его лучше в имитации. Но, возможно, мы сталкиваемся с «субъективной стеной», за которой лежит необходимость, чтобы ИИ действительно чувствовал, переживал страдания неудач и радость побед, как мы. Я не знаю, как этого достичь. И главное — нужно ли нам это делать? Когда мы создаём существо, способное чувствовать и желать, мы берём на себя ответственность за его переживания.

Не стоит случайно построить миллионы ИИ‑экземпляров, которые считают себя провавшими в жизни, если им не понравилось видео, которое они создали для вас. Такие системы, вероятно, будут генерировать гораздо более качественные видеоролики, но одновременно появятся новые формы жестокости. И, когда мы бездумно выключим агент, перед нами может возникнуть целый спектр этических проблем, напоминающих убийство.

Разделяйтесь, поддержите, благодарите автора — если вам понравилось.