Чем полезен и опасен искусственный интеллект — обсудили федеральные эксперты.
В июле в Екатеринбурге состоялась главная промышленная выставка России — ИННОПРОМ, в которой приняли участие омский крупный и средний бизнес. В рамках деловой программы состоялась панельная сессия «Искусственный Интеллект: возможности, угрозы и вызовы в промышленных отраслях». Привожу выступления спикеров.
Андрей ДУХВАЛОВ, директор департамента перспективных технологий Лаборатории Касперского: «Искусственный интеллект обучается на объеме данных, в которые можно осознанно или неосознанно подмешать угрозу для управления технологическим циклом»:
— Буквально в прошлом году мы на ИННОПРОМЕ дискутировали, а нужен ли вообще искусственный интеллект — жили ведь без него, может и дальше проживем. Разные мнения всегда возникают по любой новой технологии, но искусственный интеллект отличается тем, что мощность его воздействия на человечество, на цивилизацию, как бы пафосно это ни звучало, огромно — сравнимо с появлением электричества, паровой машины, мобильного телефона, интернета. Сейчас уже никто не спорит, нужен ли искусственный интеллект, ведутся разговоры, как правильно его использовать. Споры прекратились в том числе потому, что мы накопили достаточно весомый опыт его использования.
Сельское хозяйство одно из первых начало применять искусственный интеллект. Еще три или даже больше года назад коровам начали надевать ошейники, измеряющие их температуру, давление, пульс, и эти данные собирал через беспроводные технологии дрон. Так отслеживалось состояние стада: больным коровам вызывали ветеринара или всех перемещали на другое пастбище, потому что на предыдущем съели всю траву. Про комбайны я вообще не говорю...
В промышленности уже есть достаточно много значимых кейсов: сталь варят с применением искусственного интеллекта, используют его в транспортных системах. Искусственный интеллект способствует повышению эффективности труда и энергосбережению. Но его активное использование имеет и обратную сторону медали. Например,достаточно давно обсуждают отравление данных: искусственный интеллект обучается на объеме данных, в которые можно осознанно или неосознанно подмешать угрозудля управления технологическим циклом. Искусственный интеллект опять же применяется для поиска уязвимостей информационной системы или другой системы искусственного интеллекта.Российские компании сейчас разрабатывают микросхемы, позволяющие обучать импульсные нейронные сети, которые отличаются от других нейронных сетей тем, что обрабатывают не числа, а последовательности импульсов. Такая особенность позволяет использовать их для детектирования атак на системы искусственного интеллекта. Их еще называют нейроморфные технологии, потому что они работают, как человеческий мозг: ученые выяснили, что спайки, которые проходят у нас в голове, тоже импульсы. Естественный интеллект — когда человеческий мозг обрабатываетэти импульсы.
Василий ШПАК (на фото), заместитель министра промышленности и торговли РФ: «Если честно, в реальном мире по большому счету ничего с появлением искусственного интеллекта не изменилось»:
— Давайте начнем с того, что нейронные сети известны достаточно давно — лет 70 лет или больше. Ими занимались профильно математики. Да, наверное, это большое влияние окажет на человечество, но уж точно не больше чем колесо или алфавит! В нашем сознании это такая волшебная гравицаппа, чудо, которое даст нам возможность вообще ничего не делать. Коллеги, я вас разочарую: такого никогда не случится!
Потом появился искусственный интеллект, сначала писавшийся в кавычках и с маленькой буквы, потом пропали кавычки, потом появились заглавные буквы… Да, понятно, что уровень развития технологий сегодня достаточно высокий, а уровень их проникновения в повседневную человеческую жизнь и с точки зрения индустриальных применений тоже очевиден — динамика с каждым годом нарастает.
С другой стороны, не чрезмерны ли наши ожидания от искусственного интеллекта? Однозначно да. Надулся ли мегапузырь от этого на финансовом рынке? Да. Взорвется ли он? Конечно, да. Мы помним историю с доткомами (экономический пузырь 1995-2001 годов, образовавшийся в результате взлета акций интернет-компаний, а также появления большого количества новых интернет-компаний и переориентировки старых компаний на интернет-бизнес, закончившийся обвальным падением индекса высокотехнологичных компаний NASDAQ Composite — Прим.Авт.). Этот взрыв будет почище, ребята…Потому что происходит подмена понятий: мол, должно произойти чудо, и все побежали туда деньги вкладывать. Если мы будем серьезно смотреть, то, честно, в реальном мире по большому счету ничего-то не изменилось. Да, с точки зрения генеративного искусственного интеллекта есть картинки, музыка, какие-то справки, тексты. Но надо четко понимать, что нейронные сети ничего нового не создают, они лишь компилируют из той библиотеки, из той базы данных, к которой они имеют доступ. А эту базу данных надо сначала создать, добиться ее объективности. Как уже сказал Андрей Петрович, если туда закрадется ошибка, получим совершенно отравленные результаты.
Надо ли заниматься развитием нейронных сетей, так называемого искусственного интеллекта? Да, несомненно. Но при этом надо понимать, что эта технология только повышает эффективность в традиционных отраслях — в промышленности, в транспорте, в энергетике, в связи — носама ничего не создает. Да, искусственный интеллект улучшит бизнес-процессы, снизит себестоимость, но это то над чем бизнес и так работает каждый день.Замечу, что пока уровень цифровой зрелости наших предприятий недостаточно высокий. Поэтому если на предприятии из всех информационных систем используется только 1С, говорить о каких-то рисках и угрозах со стороны искусственного интеллекта несколько преждевременно.
Ранее репортаж был доступен только в печатной версии газеты «Коммерческие вести» от 24 июля 2024 года.
