Группа ученых и исследователей искусственного интеллекта (AI) опубликовала петицию, в которой призывает к временной приостановке разработки AI-систем, превосходящих мощность GPT-4. Согласно петиции, целью такой паузы на 6 месяцев является разработка и внедрение общих протоколов безопасности для AI, чтобы избежать возможных негативных последствий и опасностей.
Авторы петиции отмечают, что современные AI-системы все ближе подходят к уровню человеческого интеллекта, и поэтому существует необходимость осознанного подхода к их разработке. В ходе шестимесячной паузы эксперты должны совместно разработать набор безопасных стандартов и протоколов, которые будут контролироваться независимыми организациями.
Параллельно с этим, петиция предлагает сосредоточить усилия на совершенствовании существующих AI-систем, делая их более безопасными, прозрачными и предсказуемыми. Кроме того, призывается ускорить разработку систем управления и контроля над AI на государственном уровне.
Авторы петиции выразили уверенность, что такой подход позволит обеспечить безопасное развитие искусственного интеллекта и перейти к “лету AI”, когда человечество сможет наслаждаться преимуществами этой технологии без опасения катастрофических последствий.
В список подписантов петиции входят известные ученые, предприниматели и представители технологического сообщества, такие как Йошуа Бенджио (основатель и научный руководитель Mila, лауреат премии Тьюринга, профессор Университета Монреаля), Стюарт Рассел (профессор информатики в Беркли, директор Центра интеллектуальных систем и соавтор учебника “Искусственный интеллект: современный подход”), Илон Маск (генеральный директор SpaceX, Tesla и Twitter), Стив Возняк (соучредитель Apple), Юваль Ной Харари (писатель и профессор Еврейского университета Иерусалима) и Эндрю Янг (сопредседатель партии Forward, кандидат в президенты США 2020 года, автор бестселлера The New York Times, посол предпринимательства). Среди подписантов также значатся представители мировых AI-лабораторий и научных организаций, таких как DeepMind, Centre for the Study of Existential Risk и Future of Life Institute.
Выходящая в конце года версия GPT-5 должна «изменить мир»
До тех пор осенью выпустят промежуточную версию 4.5
Версия чат-бота GPT-4 была представлена недавно, но уже ведутся разговоры о следующей версии. GPT-5 должен быть обучен до конца года и обещает революцию в сфере искусственного интеллекта.
Об этом в Твиттере пишет разработчик Сици Чен. Речь идёт о концепции искусственного общего интеллекта (AGI). Это означает, что ИИ будет способен изучить любую задачу, которые люди смогут придумать. Это делает его неотличимым от человека.
В результате AGI может повысить производительность труда в разных сферах деятельности, избавив людей от рутинной и утомительной работы. Естественно, могут быть и отрицательные стороны, причём некоторые из них сейчас даже невозможно представить. Пока в сентябре или октябре ждут появления версии GPT-4.5.
Если более продвинутые алгоритмы начнут применять со злым умыслом, боты в социальных сетях вроде Twitter могут начать распространять ложную информацию, обнаружить которую будет сложно. Об этом знает глава Twitter Илон Маск, который посвящает борьбе с ботами немало времени. Правда, его идея продвигать платные подписки Twitter Blue и ограничивать бесплатные аккаунты одобряется далеко не всеми, пишет Digitaltrends.
Чёт они какой-то фигни боятся. Кожаные мешки точно так же галлюционируют, пишут бред и распространяют ложную инфу. Разве что объемы вырастут.
Качество бреда сильно вырастет. Я например мешок, и я не могу реалистично нарисовать как Байден под свастонами зигует. А нейросеть может. И кому потом верить
Фотошопер на зарплате - тоже может. Нужно срочно запретить фотошоп.
Конечно нужно запретить, и попыток это сделать хватало. Даже на законодательном уровне. Даже успешных, вроде.
Но глобально - прогресс нельзя запретить, оно все равно просочится.
Значит нужно двигаться дальше и запретить снимать фото и видео. Потому что видео может быть постановочным. А из фотографий ещё при Сталине неугодных людей удаляли без этих ваших комплюктеров.
Ты с луны упал? Снимать фото и видео много где и много в каких условиях давно запрещено. И за это могут сразу принять.
В том то и дело. Старые сферы регулировались, а на нейросети никаких регуляторов пока нет.
Ну значит будет список запрещенных фраз для генерации. Уже же так делают, не?
или сделать цифровую подпись обязательной
И всех чипировать!
Только тех кто против Путина, как неблагонадежных.
Пока ещё недостаточно. Очень большая часть генеренных изображений с людьми вызывает “эффект зловещей долины”
Скоро будет достаточно. Это как раз тот случай, когда количественный рост решает.
Ну будет нейросетка детектор нейросеток, ничего страшного. Человеки тоже могут фейки стряпать, просто не в таких объемах.
Я тоже, лично, могу фаустпатрон произвести, как и. Просто не в таких объемах.
нужно принять за практику подписывать видосы и картинки цифровой подписью источника
в данном случае, подписью либо лично Байдена, либо его пресс-службы
Это мысль
У меня вышло только вот так
на Эрдогана похож
Точно :)