ក្រុមហ៊ុន Microsoft បានចេញផ្សាយក្របខ័ណ្ឌស្វ័យប្រវត្តិកម្មបើកចំហដែលហៅថា PyRIT (ខ្លីសម្រាប់ Python Risk Identification Tool) ដើម្បីកំណត់យ៉ាងសកម្មនូវហានិភ័យនៅក្នុងប្រព័ន្ធបញ្ញាសិប្បនិម្មិត (AI) ។

លោក Ram Shankar Siva Kumar ដែលជាប្រធានក្រុម AI ក្រហមនៅក្រុមហ៊ុន Microsoft បាននិយាយថា ឧបករណ៍នៃក្រុមក្រហមត្រូវបានរចនាឡើងដើម្បី “ធ្វើឱ្យគ្រប់ស្ថាប័នទាំងអស់នៅទូទាំងពិភពលោក ច្នៃប្រឌិតប្រកបដោយទំនួលខុសត្រូវ ជាមួយនឹងភាពជឿនលឿននៃបញ្ញាសិប្បនិម្មិតចុងក្រោយបង្អស់” ។

PyRIT ភ្ជាប់មកជាមួយនូវចំណុចប្រទាក់ចំនួនប្រាំ៖ គោលដៅ សំណុំទិន្នន័យ ម៉ាស៊ីនដាក់ពិន្ទុ សមត្ថភាពក្នុងការគាំទ្រយុទ្ធសាស្ត្រវាយប្រហារជាច្រើន និងការបញ្ចូលសមាសធាតុអង្គចងចាំដែលអាចយកទម្រង់ JSON ឬមូលដ្ឋានទិន្នន័យដើម្បីរក្សាទុកអន្តរកម្មបញ្ចូល និងលទ្ធផលកម្រិតមធ្យម។

ម៉ាស៊ីនដាក់ពិន្ទុក៏ផ្តល់នូវជម្រើសពីរផ្សេងគ្នាសម្រាប់ការដាក់ពិន្ទុពីប្រព័ន្ធ AI គោលដៅ ដែលអនុញ្ញាតឱ្យអ្នកក្រុមក្រហមប្រើឧបករណ៍ចាត់ថ្នាក់ Machine Learning បុរាណ ឬប្រើចំណុចបញ្ចប់ LLM សម្រាប់ការវាយតម្លៃខ្លួនឯង។

ក្រុមហ៊ុន Microsoft បាននិយាយថា “គោលបំណងគឺដើម្បីអនុញ្ញាតឱ្យអ្នកស្រាវជ្រាវមានមូលដ្ឋាននៃរបៀបដែលគំរូរបស់ពួកគេ និងបំពង់បង្ហូរការសន្និដ្ឋានទាំងមូលកំពុងដំណើរការប្រឆាំងនឹងប្រភេទគ្រោះថ្នាក់ផ្សេងៗ និងដើម្បីអាចប្រៀបធៀបបន្ទាត់មូលដ្ឋាននោះទៅនឹងការធ្វើឡើងវិញនាពេលអនាគតនៃគំរូរបស់ពួកគេ” ។

ក្រុមហ៊ុន Microsoft បានទទួលស្គាល់បន្ថែមទៀតថា ប្រព័ន្ធ AI បង្កើតក្រុមក្រហមតម្រូវឱ្យមានការស៊ើបអង្កេតទាំងសុវត្ថិភាព និងហានិភ័យ AI ដែលទទួលខុសត្រូវក្នុងពេលដំណាលគ្នា ហើយសមយុទ្ធនេះទំនងជាទំនងជាង ខណៈពេលដែលក៏ចង្អុលបង្ហាញពីភាពខុសគ្នាយ៉ាងទូលំទូលាយនៅក្នុងស្ថាបត្យកម្មប្រព័ន្ធជំនាន់ AI។