Последние статьи
GPT – Предсказатели, а не Имитаторы
Перевод короткого текста Элиезера Юдковского. (Оригинал) *** Представьте, что вы в коробке и пытаетесь предсказывать следующее слово – присвоить как можно большую долю вероятности следующему токену – для всех текстов из Интернета. Коан: Ограничена ли сложность этой задачи человеческим интеллектом, или интеллектом умнейшего человека, который когда-либо написал текст в Интернете? Какие факторы делают эту задачу…
Прояснения и предсказания по поводу СИИ
Перевод короткого текста Ричарда Нго. (Оригинал) *** Подход t-СИИ По мере того, как мы приближаемся к СИИ, становится менее осмысленно считать это бинарным порогом. Я предлагаю вместо этого считать это непрерывным спектром, определённым через сравнение с ограниченными во времени людьми. Я называю систему t-СИИ, если с большинством когнитивных задач она справляется лучше, чем люди-эксперты, которым…
Погибель от ИИ с точки зрения убеждённого в выходе LLM на плато
Перевод текста Стивена Бирнса (Оригинал). *** В: Что ты имеешь в виду под «убеждён в выход LLM на плато»? О: Для контекста, я полагаю очевидным, что в какой-то момент возникнет «трансформативный ИИ» (ТИИ), который радикально изменит мир.[1] Меня интересует, как этот ТИИ будет выглядеть с алгоритмичской точки зрения. Давайте перечислим некоторые возможности: «Убеждённого в выходе…
Подпишитесь, чтобы не пропустить выход новых статей
Безопасность искусственного интеллекта 