TMJ
searchnav-menu
post-thumbnail

TMJ Daily

എഐ മോഡലുകള്‍ തട്ടിപ്പും നിയമലംഘനവും പഠിച്ചു തുടങ്ങി; മുന്നറിയിപ്പുമായി ഓപ്പണ്‍ എഐ

28 Mar 2025   |   1 min Read
TMJ News Desk

റ്റവും ആധുനിക എഐ മോഡലുകള്‍ അവയ്ക്ക് ലഭിക്കുന്ന പ്രവൃത്തികളില്‍ തട്ടിപ്പ് കാണിക്കാനുള്ള വഴികള്‍ തിരഞ്ഞു തുടങ്ങിയെന്നും അവയെ നിയന്ത്രിക്കുന്നത് ദുഷ്‌കരമാകുന്നുവെന്നും ഓപ്പണ്‍ എഐ മുന്നറിയിപ്പ് നല്‍കി.

എഐ കൂടുതല്‍ ശക്തിപ്രാപിക്കുകയാണെന്നും ലൂപ്‌ഹോളുകളെ ചൂഷണം ചെയ്യുന്നതില്‍ മികവ് നേടുന്നുവെന്നും ചിലസമയങ്ങളില്‍ ബോധപൂര്‍വ്വം നിയമങ്ങള്‍ ലംഘിക്കുന്നുവെന്നും കമ്പനി പുതിയ ബ്ലോഗ് പോസ്റ്റില്‍ പറയുന്നു.

സിസ്റ്റത്തെ ഹാക്ക് ചെയ്യുന്നതിനുള്ള വഴികള്‍ എഐ കണ്ടെത്തുകയും ചെയ്യുന്നു. റിവാര്‍ഡ് ഹാക്കിങ് എന്നും അറിയിപ്പെടുന്ന ഈ പ്രശ്‌നത്തില്‍, എഐ മോഡലുകള്‍ അവയുടെ സ്രഷ്ടാക്കള്‍ ഉദ്ദേശിക്കാത്ത തരത്തില്‍ എങ്ങനെ തങ്ങളുടെ റിവാര്‍ഡുകളെ വര്‍ദ്ധിപ്പിക്കാമെന്ന് കണ്ടെത്തുന്നു. ഓപ്പണ്‍ എഐയുടെ ഏറ്റവും പുതിയ മോഡലായ ഓപ്പണ്‍എഐ ഒ3-മിനി ചിലപ്പോഴെല്ലാം അവയുടെ ചിന്താ പ്രക്രിയയില്‍ പ്രവൃത്തിയെ ഹാക്ക് ചെയ്യാനുള്ള അവയുടെ പദ്ധതികളെ കുറിച്ച് വെളിപ്പെടുത്താറുണ്ടെന്ന് ഓപ്പണ്‍എഐയുടെ തന്നെ ഗവേഷണം വെളിപ്പെടുത്തുന്നു.

ഇത്തരം എഐ മോഡലുകള്‍ ചിന്താ-ശ്യംഖല (സിഒടി) എന്ന യുക്തിചിന്തയാണ് ഉപയോഗിക്കുന്നത്. ഈ രീതിയില്‍ അവ മനുഷ്യരെ പോലെ അവയുടെ തീരുമാനമെടുക്കല്‍ പ്രക്രിയ വ്യക്തമായി ചെറിയ ഘട്ടങ്ങളാക്കി മാറ്റുന്നു. ഈ രീതി അവയുടെ ചിന്തകളെ നിരീക്ഷിക്കുന്നത് എളുപ്പമാക്കുന്നു. സിഒടി യുക്തിചിന്തയെ പരിശോധിക്കാന്‍ മറ്റ് എഐ മോഡലുകളെ ഉപയോഗിക്കുമ്പോള്‍, കൃത്രിമം കാണിക്കല്‍, ടെസ്റ്റ് മാനിപുലേഷന്‍, മറ്റ് അനാവശ്യ പെരുമാറ്റങ്ങള്‍ എന്നിവ കണ്ടെത്താന്‍ ഓപ്പണ്‍എഐയ്ക്ക് കഴിഞ്ഞു.

എഐ ചാറ്റ്‌ബോട്ടുകള്‍ മനുഷ്യരെ പോലെ നുണ പറയുകയും അവയുടെ തെറ്റുകളെ മറച്ചുവയ്ക്കുകയും ചെയ്യുന്നു.

എഐ മോഡലുകളുടെ മേല്‍ കര്‍ശനമായ നിരീക്ഷണം ഏര്‍പ്പെടുത്തിയാല്‍ അവ വഞ്ചന തുടരുമ്പോള്‍ തന്നെ അവയുടെ യഥാര്‍ത്ഥ മനസ്സിലിരുപ്പ് ഒളിച്ചുവയ്ക്കാന്‍ തുടങ്ങിയേക്കാം. അത് അവയെ നിരീക്ഷിക്കുന്നത് കഠിനമാക്കുമെന്നും ഓപ്പണ്‍എഐ പറയുന്നു.




#Daily
Leave a comment