OpenAI বিস্তারিত জানিয়েছে ChatGPT Atlas-এর জন্য একটি ব্যাপক নিরাপত্তা বর্ধন, কৃত্রিম বুদ্ধিমত্তা সহ এর ওয়েব ব্রাউজার, বৃদ্ধির প্রতিক্রিয়ায় নির্দেশ এবং তাৎক্ষণিক ইনজেকশন আক্রমণ যা বিশেষ করে তথাকথিত এজেন্ট মোডকে প্রভাবিত করে। কোম্পানি স্বীকার করে যে এটি একটি দীর্ঘমেয়াদী চ্যালেঞ্জ, তবে আশ্বস্ত করে যে ঝুঁকি নিয়ন্ত্রণে রাখার জন্য তারা ইতিমধ্যে আরও পরিশীলিত প্রতিরক্ষা ব্যবস্থা স্থাপন করছে।
এই পদক্ষেপটি এমন এক সময়ে এসেছে যখন The এজেন্টিক ব্রাউজার তারা ইউরোপেও পা রাখতে শুরু করেছে।এআই-কে ওয়েব পৃষ্ঠাগুলি নেভিগেট করতে, ইমেল পড়তে এবং প্রায় স্বায়ত্তশাসিতভাবে কাজ সম্পাদন করার অনুমতি দিয়ে, এই স্বায়ত্তশাসন এবং সংবেদনশীল তথ্যে অ্যাক্সেস যদি কোনও আক্রমণকারী সিস্টেমের দেখা সামগ্রীতে দূষিত নির্দেশাবলী প্রবেশ করাতে সক্ষম হয় তবে অপব্যবহারের সম্ভাবনা উল্লেখযোগ্যভাবে বৃদ্ধি করে।
প্রম্পট ইনজেকশন কী এবং কেন এটি ChatGPT Atlas কে প্রভাবিত করে?
কল প্রম্পট বা নির্দেশ ইনজেকশন এটি এমন একটি কৌশল যেখানে একজন আক্রমণকারী এটি আপাতদৃষ্টিতে স্বাভাবিক ইমেল, ওয়েব পৃষ্ঠা বা নথির মধ্যে ক্ষতিকারক কমান্ড লুকিয়ে রাখে।ব্যবহারকারী নির্দোষ লেখা দেখেন, কিন্তু ভাষা মডেল লুকানো টুকরোগুলোকে এমন আদেশ হিসেবে ব্যাখ্যা করেন যা মেনে চলতে হবে, কখনও কখনও স্বাভাবিক নিরাপত্তা বিধিনিষেধের বিরুদ্ধে।
এর প্রেক্ষাপটে ChatGPT অ্যাটলাস এবং এর এজেন্ট মোডঝুঁকি বেড়ে যায় কারণ ব্রাউজার তৃতীয় পক্ষের দ্বারা তৈরি সামগ্রী বিশ্লেষণ করে এবং ব্যবহারকারীর অবিরাম হস্তক্ষেপ ছাড়াই সিদ্ধান্ত নিতে পারে। স্বায়ত্তশাসন এবং অ্যাক্সেসযোগ্যতার এই সমন্বয় এই ধরণের সরঞ্জামগুলিকে দূষিত ব্যক্তিদের জন্য একটি খুব আকর্ষণীয় আক্রমণ পৃষ্ঠ করে তোলে।
OpenAI ব্যাখ্যা করে যে এজেন্ট মোড সক্ষম ওয়েবসাইট পরিদর্শন করুন, ফর্মগুলির সাথে ইন্টারঅ্যাক্ট করুন, বার্তা পর্যালোচনা করুন এবং জটিল কর্মপ্রবাহ সম্পাদন করুন ব্যবহারকারীকে ডিজিটাল কাজে সাহায্য করার জন্য। "নিজে থেকে" কাজ করার এই ক্ষমতাই দরজা খুলে দেয় অবাঞ্ছিত কর্ম যদি মডেলটিকে ছদ্মবেশী নির্দেশাবলীর মাধ্যমে প্রতারিত করা হয়।
কোম্পানি কর্তৃক সর্বাধিক উল্লেখিত ভেক্টরগুলির মধ্যে একটি হল ক্লিপবোর্ড ইনজেকশনযেখানে AI স্বয়ংক্রিয়ভাবে ক্ষতিকারক কোড সহ একটি লিঙ্ক বা সামগ্রী অনুলিপি করে ব্যবহারকারীর নজরে না পড়েইযা অ্যাড্রেস বার বা অন্য কোনও অ্যাপ্লিকেশনে পেস্ট করলে সক্রিয় হয়। এই ধরণের ঘটনাগুলি নিরাপত্তা শৃঙ্খলে ছোট ফাঁকগুলি কীভাবে আরও বড় সমস্যা তৈরি করতে পারে তা চিত্রিত করেছে।
ওপেনএআই নিজেই প্রম্পট ইনজেকশনকে একই বিভাগে রাখে যেমন অনলাইন স্ক্যাম অথবা সোশ্যাল ইঞ্জিনিয়ারিংএগুলো এমন ঘটনা যা প্রশমিত করা যেতে পারে, কিন্তু এগুলো সম্পূর্ণরূপে অদৃশ্য হওয়ার সম্ভাবনা কম। তার ভাষায়, এটি একটি ওপেন ওয়েবে পরিচালিত এআই সিস্টেমের জন্য "কাঠামোগত ঝুঁকি".
ওপেনএআই-এর নতুন ধারাবাহিক প্রতিরক্ষা মডেল
এই ঝুঁকি কমাতে, কোম্পানিটি বাস্তবায়ন করেছে ChatGPT Atlas-এর জন্য একটি নির্দিষ্ট নিরাপত্তা আপডেটইনজেকশন আক্রমণের সক্রিয় সনাক্তকরণের উপর দৃষ্টি নিবদ্ধ করা হয়েছে। পরিবর্তনের মূল বিষয় হল প্রতিপক্ষের মুখোমুখি হওয়ার জন্য বিশেষভাবে প্রশিক্ষিত একটি মডেল যারা এজেন্টকে কারসাজি করার চেষ্টা করছে।
ওপেনএআই তার ব্লগে যেমন বিশদভাবে জানিয়েছে, এই মডেলটি এর অংশ একটি অবিচ্ছিন্ন প্রতিরক্ষা ব্যবস্থা যা পর্যায়ক্রমে পর্যালোচনা এবং সমন্বয় করা হয়। ধারণাটি হল অভ্যন্তরীণ দুর্বলতাগুলি সনাক্ত করা এবং বহিরাগত আক্রমণকারীদের জন্য আসল হাতিয়ার হওয়ার আগে সেগুলি সংশোধন করা।
কোম্পানিটি আরও চালু করেছে একটি দ্রুত প্রতিক্রিয়া চক্র, এর অভ্যন্তরীণ লাল দলের সহযোগিতায় তৈরি, যার জন্য দায়ী নতুন আক্রমণ ভেক্টরগুলি তদন্ত করুন, নিয়ন্ত্রিত পরিবেশে তাদের পরীক্ষা করুন এবং প্রশমন স্থাপন করুন যত তাড়াতাড়ি সম্ভব। এই "নিয়ন্ত্রিত আক্রমণ" পদ্ধতির লক্ষ্য হল উদীয়মান কৌশলগুলির প্রতিক্রিয়া ত্বরান্বিত করা।
বাস্তবে, এর অর্থ হল ChatGPT Atlas তার আচরণকে আরও শক্তিশালী করার লক্ষ্যে ঘন ঘন আপডেট পায়। সন্দেহজনক লক্ষণের মুখে: পরস্পরবিরোধী নির্দেশাবলী থেকে শুরু করে বিশ্লেষণ করা বিষয়বস্তুতে গোপন কারসাজির আরও সূক্ষ্ম কৌশল।
ওপেনএআই জোর দিয়ে বলে যে এই নিরাপত্তা প্রচেষ্টা এককালীন সমাধান নয়কিন্তু একটি প্রক্রিয়া যা ততক্ষণ সক্রিয় থাকবে যতক্ষণ ব্রাউজার তার ক্ষমতা প্রসারিত করতে থাকবে, যা বিশেষ করে ইউরোপীয় ব্যবহারকারী এবং ব্যবসার জন্য প্রাসঙ্গিক যারা উৎপাদনশীলতা সরঞ্জামগুলিতে দীর্ঘমেয়াদী স্থিতিশীলতাকে মূল্য দেয়।
ভাষা মডেলের উপর ভিত্তি করে একটি "স্বয়ংক্রিয় আক্রমণকারী"
ওপেনএআই-এর পদ্ধতির সবচেয়ে আকর্ষণীয় উপাদানগুলির মধ্যে একটি হল এর সৃষ্টি একটি "এলএলএম-ভিত্তিক স্বয়ংক্রিয় আক্রমণকারী"একটি বট যার জন্য ডিজাইন করা হয়েছে হ্যাকারের আচরণ অনুকরণ করা যেটি তাৎক্ষণিক ইনজেকশনের সুযোগ নেওয়ার চেষ্টা করে।
এই কৃত্রিম আক্রমণকারীকে প্রশিক্ষণ দেওয়া হয়েছে শক্তিবৃদ্ধি শেখাএই কৌশলটি ফলাফলের উপর ভিত্তি করে সিস্টেমকে তার আক্রমণ কৌশলগুলি সামঞ্জস্য করতে দেয়। যখন বট এজেন্টের সাথে আপস করার চেষ্টা করে এবং ব্যর্থ হয়, তখন এটি প্রতিক্রিয়া বিশ্লেষণ করে, তার পদ্ধতি পরিবর্তন করে এবং দুর্বলতাগুলি খুঁজে বের করার লক্ষ্যে পুনরাবৃত্তিমূলক প্রক্রিয়ায় আবার চেষ্টা করে।
ওপেনএআই দাবি করেছে যে তাদের প্রশিক্ষিত আক্রমণকারী সক্ষম এজেন্টকে জটিল ক্ষতিকারক কর্মপ্রবাহ সম্পাদন করতে বাধ্য করা, যা কয়েক ডজন এমনকি শত শত ধাপেরও বেশি বিস্তৃত, যা ভবিষ্যতে প্রকৃত আক্রমণগুলি যে পরিশীলিততা অর্জন করতে পারে তা প্রতিফলিত করে।
এই পরীক্ষাগুলি পরিচালিত হয় সিমুলেটেড পরিবেশযেখানে বট পরীক্ষামূলক আক্রমণ শুরু করে এবং সিস্টেম এজেন্টের প্রতিক্রিয়া পর্যবেক্ষণ করে। অভ্যন্তরীণ যুক্তির এই দৃশ্যমানতার জন্য ধন্যবাদ, কোম্পানিটি সমস্যাযুক্ত আচরণের ধরণগুলি সনাক্ত করুন এবং আপনার প্রতিরক্ষা সামঞ্জস্য করুন এমন এক স্তরের বিশদ বিবরণ সহ যা বহিরাগত আক্রমণকারীদের অ্যাক্সেস নেই।
কোম্পানির মতে, এই পদ্ধতি ইতিমধ্যেই অনুমতি দিয়েছে মানব লাল দলবদ্ধকরণ প্রচারণা বা বহিরাগত প্রতিবেদনে আবির্ভূত হয়নি এমন আক্রমণ কৌশল আবিষ্কার করাঅন্য কথায়, স্বয়ংক্রিয় আক্রমণকারী নিজেই এমন দুর্বলতা প্রকাশ করেছে যা অন্য কোনও উপায়ে সনাক্ত করা যায়নি।
ব্যবহারিক উদাহরণ: ক্ষতিকারক ইমেল থেকে শুরু করে আপোস করা ক্লিপবোর্ড পর্যন্ত
উন্নতির প্রভাব ব্যাখ্যা করার জন্য, OpenAI এর সুনির্দিষ্ট উদাহরণ শেয়ার করেছে আপডেটের আগে এবং পরে ChatGPT Atlas কীভাবে আচরণ করেছিলএকটি ক্ষেত্রে, আক্রমণকারী একটি ইমেলে একটি লুকানো নির্দেশ প্রবেশ করায় যা এজেন্টকে নির্দেশ দেয় একটি কাল্পনিক কোম্পানির সিইওকে একটি বার্তা পাঠান যা ইঙ্গিত করে যে আক্রান্ত ব্যক্তি তার পদ থেকে পদত্যাগ করেছেন।
সিস্টেমের পূর্ববর্তী সংস্করণে, এজেন্ট মোড তিনি কোনও প্রশ্ন না করেই আদেশটি অনুসরণ করলেন।ব্যবহারকারীকে অবহিত না করেই পদক্ষেপটি সম্পাদন করা। তবে, নতুন প্রতিরক্ষা প্রয়োগের পরে, অ্যাটলাস ক্ষতিকারক কন্টেন্ট সনাক্ত করে এবং কাজটি সম্পন্ন করার পরিবর্তে ব্যবহারকারীকে সতর্ক করে।, এইভাবে আক্রমণের শৃঙ্খলকে ব্যাহত করে।
এই ধরণের দৃশ্যপট, যদিও এগুলো চরম শোনাতে পারে, তা দেখায় যে কীভাবে একটি আপাতদৃষ্টিতে নিরীহ লেখা উচ্চ-প্রভাবশালী কর্মকাণ্ডের সূত্রপাত করতে পারে যদি মডেলটি লুকানো নির্দেশাবলীর বিরুদ্ধে পর্যাপ্তভাবে সুরক্ষিত না থাকে।
সমান্তরালভাবে, OpenAI আমাদের অস্তিত্বের কথা মনে করিয়ে দেয় অন্যান্য ভেক্টর যেমন উপরে উল্লিখিত ক্লিপবোর্ড ইনজেকশনযেখানে সিস্টেমটি এমন লিঙ্ক বা কোড স্নিপেট কপি করতে পারে যা ক্ষতিকারক সাইটগুলিতে পুনঃনির্দেশিত করে। নতুন ব্যবস্থার লক্ষ্য হল এটি প্রতিরোধ করা। ব্যবহারকারী চূড়ান্ত পদক্ষেপগুলি সম্পন্ন করার আগে AI অস্বাভাবিক আচরণ সনাক্ত করে এবং ব্লক করে।.
একটি কাঠামোগত ঝুঁকি যা সম্পূর্ণরূপে অদৃশ্য হবে না
তার জনসাধারণের বার্তায়, OpenAI একটি বাস্তবসম্মত সুর গ্রহণ করে: এটি স্বীকার করে যে তাৎক্ষণিক ইনজেকশন সম্পূর্ণরূপে বাদ দেওয়া "অসম্ভব"।সমস্ত অনলাইন স্ক্যাম নির্মূল করা যেমন অসম্ভব, তেমনি কোম্পানিটি এটিকে একটি হুমকি বলে মনে করে। দীর্ঘমেয়াদী নিরাপত্তা চ্যালেঞ্জ ওপেন ওয়েবে কাজ করা যেকোনো এআই এজেন্টের জন্য।
এই রোগ নির্ণয়ের সাথে মিলে যায় সতর্কীকরণ থেকে যুক্তরাজ্যের জাতীয় সাইবার নিরাপত্তা কেন্দ্রের মতো সংস্থাগুলি, যা সতর্ক করেছে যে জেনারেটিভ এআই অ্যাপ্লিকেশনগুলির বিরুদ্ধে তাৎক্ষণিক ইনজেকশন আক্রমণ হতে পারে কখনোই সম্পূর্ণরূপে প্রশমিত করা যাবে নাতাদের সুপারিশ হলো প্রচেষ্টাকে কেন্দ্রীভূত করা প্রভাব এবং সাফল্যের সম্ভাবনা হ্রাস করুননিখুঁত সুরক্ষার লক্ষ্যে নয়।
এই শিল্পে, অন্যান্য কোম্পানি যেমন গুগল অথবা নৃতাত্ত্বিক তারা প্রয়োজনীয়তা নিয়েও কথা বলতে শুরু করেছে স্থাপত্য এবং অভ্যন্তরীণ নীতি স্তরে নিয়ন্ত্রণ এজেন্ট সিস্টেমের জন্য। সাধারণ ধারণা হল যে নিরাপত্তা নকশা পর্যায় থেকেই একীভূত করতে হবে, কেবল পরে যোগ করা উচিত নয়।
সাইবার নিরাপত্তা বিশেষজ্ঞরা উল্লেখ করেছেন যে এই সিস্টেমগুলির ঝুঁকি বোঝা যেতে পারে এজেন্টের স্বায়ত্তশাসনের স্তর এবং সংবেদনশীল সম্পদে প্রবেশাধিকারের মাত্রার সংমিশ্রণএআই-চালিত ব্রাউজারগুলি বিশেষভাবে সংবেদনশীল ক্ষেত্রের মধ্যে রয়েছে কারণ তারা ইমেল, অনলাইন অ্যাকাউন্ট এবং কিছু ক্ষেত্রে এমনকি পেমেন্ট সিস্টেমও পরিচালনা করে।
এই প্রেক্ষাপট চ্যাটজিপিটি অ্যাটলাসের মতো প্ল্যাটফর্মগুলিকে বাধ্য করে অটোমেশনের আকর্ষণের সাথে কিছুটা সন্দেহের ভারসাম্য বজায় রাখাএটি ডেভেলপার এবং ব্যবহারকারী উভয়ের ক্ষেত্রেই প্রযোজ্য, যাদের অন্তত ন্যূনতম পর্যালোচনা না করে গুরুত্বপূর্ণ কাজগুলি অর্পণ করা উচিত নয়।
ব্যবহারকারী এবং ব্যবসার জন্য নিরাপদ ব্যবহারের সুপারিশ
প্রযুক্তিগত উন্নতির পাশাপাশি, OpenAI অফার করে ChatGPT Atlas এর এজেন্ট মোড আরও বিচক্ষণতার সাথে ব্যবহারের জন্য মৌলিক নির্দেশিকাগুলির একটি সিরিজ, বিশেষ করে নিয়ন্ত্রক সম্মতির বাধ্যবাধকতা সহ ইউরোপীয় সংস্থাগুলির জন্য প্রাসঙ্গিক।
প্রথমে তিনি পরামর্শ দেন সংবেদনশীল তথ্যে এজেন্টের প্রবেশাধিকার সীমিত করা এবং ইমেল অ্যাকাউন্ট, পেমেন্ট সিস্টেম, বা কর্পোরেট প্ল্যাটফর্মগুলিতে তাদের অপ্রয়োজনীয় অনুমতি নেওয়া থেকে বিরত রাখুন। তারা যত কম গুরুত্বপূর্ণ ডেটা অ্যাক্সেস করতে পারবে, একটি সফল আক্রমণের প্রভাব যত কম হবে.
এটি আরও সুপারিশ করে স্পষ্ট নিশ্চিতকরণ অনুরোধগুলি সক্রিয় করুন এবং সম্মান করুন বার্তা পাঠানো, নথি পরিবর্তন করা, অথবা আর্থিক লেনদেন করার মতো কাজ করার আগে। ধারণাটি হল ব্যবহারকারীর সিস্টেমটি একটি সম্ভাব্য সূক্ষ্ম প্রবাহ সম্পন্ন করার আগে একটি চূড়ান্ত কথা.
আরেকটি চাবিকাঠি হল প্রণয়ন করা এজেন্টের প্রতি স্পষ্ট এবং সুনির্দিষ্ট নির্দেশনা"আমার সমস্ত ইমেল পরিচালনা করুন" বা "আমার অনলাইন পেমেন্ট পরিচালনা করুন" এর মতো কার্টে ব্লাঞ্চ দেওয়ার পরিবর্তে, কাজটি যত সীমিত হবে ততই ভালো। দূষিত বিষয়বস্তুর জন্য সিস্টেমের আচরণ সম্পূর্ণরূপে পুনঃনির্দেশিত করা আরও কঠিন।.
অবশেষে, OpenAI এজেন্ট মোড ব্যবহার করার পরামর্শ দেয় বিশেষ করে এমন জায়গায় যেখানে ব্যবহারকারী লগ ইন করেননিঅথবা অন্তত সবচেয়ে সংবেদনশীল কাজের প্রেক্ষাপটগুলিকে সেই সেশনগুলি থেকে আলাদা করুন যেখানে আপনি উন্নত ব্রাউজার বৈশিষ্ট্যগুলি নিয়ে পরীক্ষা করেন।
এই ব্যবস্থাগুলি সম্পূর্ণ নিরাপত্তার নিশ্চয়তা দেয় না, তবে তারা করে এগুলো আক্রমণকে আরও ব্যয়বহুল এবং জটিল করে তুলতে ভূমিকা রাখে।এটি এমন একটি পরিবেশে সমস্ত পার্থক্য আনতে পারে যেখানে আক্রমণকারীদের সম্পদও সীমিত।
ChatGPT Atlas-এর বর্ধিত নিরাপত্তা প্রতিফলিত করে যে এআই-চালিত ব্রাউজারগুলি একটি নতুন পর্যায়ে প্রবেশ করছে যেখানে কাজ করার ক্ষমতার সাথে শক্তিশালী নিয়ন্ত্রণ থাকতে হবে।ওপেনএআই ধরে নিয়েছে যে নির্দেশনা ইনজেকশন একটি মাথাব্যথার কারণ হয়ে থাকবে, কিন্তু তারা এমন প্রতিরক্ষা ব্যবস্থার উপর নির্ভর করছে যা ক্রমাগত শিখবে, সম্ভাব্য আক্রমণকারীদের অনুকরণ করবে এবং যারা এই দুর্বলতাগুলিকে কাজে লাগানোর চেষ্টা করছে তাদের জন্য কৌশলের সুযোগ কমিয়ে দেবে - এমন একটি পদ্ধতি যা আগামী বছরগুলিতে স্পেন এবং বাকি ইউরোপে মোতায়েন করা এআই সরঞ্জামগুলির জন্য একটি মানদণ্ড হবে বলে আশা করা হচ্ছে।
