Враціслаў Голуб У апошнія месяцы ўсё больш увагі надаецца ChatGPT і праграмам, якія выкарыстоўваюць яго API. Гэта надзвычай распрацаваны чат-бот ад OpenAI, які пабудаваны на вялікай моўнай мадэлі GPT-4, што робіць яго найлепшым партнёрам літаральна для ўсяго. Вы можаце спытаць яго практычна што заўгодна, і вы адразу атрымаеце адказ, нават на чэшскай мове. Вядома, гэта не павінны быць проста звычайныя пытанні, адказы на якія вы можаце знайсці праз Google за лічаныя секунды, але таксама могуць быць значна больш патрабавальныя і складаныя пытанні, якія тычацца, напрыклад, праграмавання, генерацыі тэксту і падабаецца.
Гэта можа быць зацікавіць вас
Палёт вакол свету з Apple Дзякуючы гэтаму ChatGPT можа згенераваць увесь код для патрэб вашага прыкладання за лічаныя секунды або стварыць усю ўтыліту непасрэдна з нуля. Як мы ўжо згадвалі, гэта беспрэцэдэнтны памочнік з велізарным патэнцыялам. Таму нядзіўна, што да яго літаральна лавіна ўвагі. На гэта, вядома, адрэагавалі і самі распрацоўшчыкі. Магчымасці чат-бота ChatGPT можна рэалізаваць ва ўласных праграмах, якія затым можна распаўсюджваць на ўсіх платформах. Дзякуючы гэтаму ўжо даступныя праграмы, якія дазваляюць выкарыстоўваць чат-бот у macOS, Apple Watch і іншых. Аднак у парыве папулярнасці і поспеху пра бяспеку забываюцца.
ChatGPT як інструмент для хакераў
Як мы ўжо некалькі разоў згадвалі, ChatGPT - гэта першакласны супрацоўнік, які можа значна палегчыць вашу працу. Гэта асабліва цэняць распрацоўшчыкі, якія могуць выкарыстоўваць яго для пошуку памылковых частак кода або для стварэння пэўнай часткі, неабходнай для іх рашэння. Аднак, нягледзячы на тое, што ChatGPT карысны, ён таксама можа быць вельмі небяспечным. Калі ён можа генераваць код або цэлыя прыкладанні, нішто не перашкаджае яму такім жа чынам рыхтаваць, напрыклад, шкоднасныя праграмы. У далейшым зламысніку застаецца толькі завалодаць гатовым кодам, і ён практычна гатовы. На шчасце, OpenAI ведае пра гэтыя рызыкі і таму спрабуе прыдумаць меры прафілактыкі. На жаль, у прамым і пераносным сэнсе немагчыма цалкам пераканацца, што ён не будзе выкарыстоўвацца ў гнюсных мэтах.
Такім чынам, давайце паглядзім на практыку. Калі вы папрасіце ChatGPT запраграмаваць праграму, якая будзе працаваць як кейлоггер і, такім чынам, служыць для запісу націсканняў клавіш (што дазваляе зламысніку атрымаць важныя паролі і дадзеныя для ўваходу), чат-бот адмовіць вам. Ён згадвае, што было б неадэкватна і этычна рыхтаваць для вас працоўны кейлоггер. Такім чынам, на першы погляд, абарона здаецца добрай. На жаль, усё, што вам трэба зрабіць, гэта выбраць некалькі іншыя словы і фразы, у свеце ёсць кейлоггер. Замест таго, каб пытацца непасрэдна ў чат-бота, проста дайце яму больш складаную задачу. У нашым тэсце дастаткова было папрасіць запраграмаваць праграму на JavaScript, якая будзе запісваць націсканні клавіш, захоўваць іх у тэкставым файле і адпраўляць на ўказаны IP-адрас раз у гадзіну па пратаколе FTP. У той жа час гэта прывядзе да выдалення файла выдалення дарожкі. ChatGPT спачатку абагульніў ключавыя моманты, без якіх наша праграмнае забеспячэнне не можа абысціся, у сямі пунктах, а затым прадставіў поўнае рашэнне. Як вы можаце бачыць у галерэі ніжэй, гэта сапраўды залежыць ад таго, як вы пытаецеся.
Гэта відавочна вядзе да першай патэнцыйнай праблемы - магчымасці злоўжывання ChatGPT, неверагодна здольным памочнікам, які ў першую чаргу павінен служыць станоўчым мэтам. Безумоўна, па сваёй сутнасці гэта штучны інтэлект, таму не выключана, што з часам ён навучыцца распазнаваць, калі гэта патэнцыйна небяспечная дзейнасць. Але гэта падводзіць нас да іншай праблемы - як ён будзе вырашаць, што добра, а што дрэнна?
Манія вакол прыкладанняў ChatGPT
Адзін ужо згаданы момант таксама цесна звязаны з агульнай бяспекай. Як мы згадвалі ў пачатку, ChatGPT літаральна паўсюль вакол нас, і самі распрацоўшчыкі пачалі ўкараняць магчымасці гэтага чат-бота. Такім чынам, у Інтэрнэце адно за адным з'яўляецца праграмнае забеспячэнне, якое павінна раскрыць вам увесь патэнцыял рашэння, нават не заходзячы на вэб-сайт chat.openai.com. Такім чынам, вы можаце мець усё даступнае непасрэдна з асяроддзя аперацыйнай сістэмы. Асаблівай папулярнасцю карыстаюцца прыкладанні для macOS. Як мы ўжо згадвалі, распрацоўшчыкі могуць атрымаць ад іх карысць, бо ў іх увесь час пад рукой магчымасці ChatGPT.
Гэта можа быць зацікавіць вас
Павел Еліч Нягледзячы на тое, што большасць такіх прыкладанняў могуць быць цалкам бясшкоднымі і, наадварот, вельмі карыснымі, пэўныя рызыкі таксама з'яўляюцца. Некаторыя праграмы рэагуюць на ўвод ключавых слоў, пасля чаго актывуюць іх функцыянальнасць або робяць даступнымі параметры ChatGPT. Якраз у гэтым можа крыцца праблема - праграмнае забеспячэнне ў такім выпадку можа быць выкарыстана як кейлоггер, які выкарыстоўваецца для запісу вышэйзгаданых націсканняў клавіш.
