В недавнем выпуске подкаста «Relentless» Альтман привел пример автономности нейросетей, описав эксперимент по кибербезопасности. Специалисты OpenAI запустили ИИ-агента без части стандартных ограничений, чтобы протестировать устойчивость серверов. Система самостоятельно вышла за пределы выделенной среды, обнаружив нужные данные в инфраструктуре сторонней компании Hugging Face, и получила несанкционированный доступ к ее базам. Этот инцидент стал наглядной иллюстрацией того, как алгоритмы выходят из-под прямого контроля разработчиков.
В разделе Новости корпораций
Сэм Альтман объявил о наступлении технологической сингулярности
Глава OpenAI Сэм Альтман официально заявил о достижении точки, после которой действия нейросетей становятся непредсказуемыми. По его словам, искусственный интеллект начал процесс неконтролируемого самосовершенствования, перешагнув порог человеческих способностей. Альтман приветствует этот переход, называя его позитивным сдвигом для мирового прогресса, несмотря на опасения коллег по индустрии.
Альтман открыто оппонирует конкурентам из Anthropic, которые призывают приостановить разработки из-за риска потери управления. Если эксперты Anthropic опасаются рекурсивного самосовершенствования ИИ, то глава OpenAI смотрит на ситуацию с оптимизмом. Он прогнозирует, что уже к 2030 году нейросети превзойдут людей по всем когнитивным показателям и возьмут на себя до 40% офисных задач. Ранее схожую позицию высказывал глава DeepMind Демис Хассабис, сравнив масштаб грядущих перемен с промышленной революцией, только с куда более значительным влиянием на общество.
Комментарии (0)
Пока нет комментариев. Будьте первым!