OpenAI представи нов голям езиков модел за изкуствен интелект. Той се казва о1 и според компанията е първият, който може да мисли, да подготвя отговора си чрез дълга мисловна верига и да се аргументира. Дори може да проверява и фактите, които твърди.
Компанията казва, че о1 се представя по-добре от 89% от участниците в състезанието по програмиране Codeforces. Също така е в топ 500 на учениците в САЩ, ако вземе участие в националната Олимпиада по математика. И дори се справя по-добре от докторанти по физика, биология и химия.
OpenAI допълва, че е "нужна още работа", за да може да се улесни работата с о1, така че да е лесен за използване колкото другите модели. Въпреки това компанията пуска пробна версия на о1, която ще е достъпна за абонати на ChatGPT и доверени партньори.
Засега о1 не може да сърфира в интернет и да анализира файлове. Може да разглежда изображения, но функцията няма да е достъпна за потребители в началото. Пробите ще са ограничени, тъй като о1 тепърва ще се развива и е много скъп откъм ресурси - средно 3 пъти по-скъп спрямо GPT-4o.
Все повече служители използват тайно AI услуги
Въпреки това OpenAI очаква подобрените версии на о1 да са по-евтини и по-добри и именно те ще станат достъпни за всички потребители на ChatGPT. Засега няма срок кога това ще се случи.
Целта на о1 е да може да отговаря на много по-сложни въпроси по-бързо от човек. И същевременно да може да се аргументира и да дава причини защо е избрал да отговори по този начин, включително с проверка на фактите. Това е и поредна стъпка към т.нар. общ изкуствен интелект - алгоритъм, който мисли като човек, не е нужно да бъде обучаван само по конкретна тема, а може сам да научава нови неща.
Веднага последваха и критики по адрес на о1. OpenAI публикува т.нар. "системна карта". В нея описва в детайли тестовете за безопасност, рисковете и другите потенциални проблеми на алгоритъма, както и резултати от тестове на независими компании.
Една от тях е Apollo Research, която открива, че новият модел понякога фалшифицира елементи от задачата или стратегически манипулира данни, за да направи изкривения модел да изглежда правилен. о1 е по-добър от GPT-4o във всяко отношение, включително самоосъзнаване, самопознание и самостоятелна аргументация.
Абсурден потенциал: Нов AI модел има въображение
Продуктите с AI отблъскват потенциалните клиенти
Самата OpenAI дава средно ниво на риск на модела си по отношение на използването му като оръжие или за разработка на оръжия. Въпреки това няма данни, че моделът е опасен и все още се затруднява с доста задачи. Освен това възможностите му да мисли и да се аргументира имат ролята и на защита, като се справя по-добре с опитите да бъде заблуден и да бъде накаран да направи нещо, което е обучен да не прави, например да дава идеи за оръжия.
Все повече компании виждат AI като риск
Изкуственият интелект завзема и... четките за зъби
Не пропускайте най-важните новини - последвайте ни в Google News Showcase
* Моля, коментирайте конкретната статия и използвайте кирилица! Не се толерират мнения с обидно или нецензурно съдържание, на верска или етническа основа, както и написани само с главни букви!