കമ്പ്യൂട്ടർ സിസ്റ്റങ്ങൾ തകർക്കാനും ഹാക്ക് ചെയ്യാനും കഴിയുന്ന ഏറ്റവും പുതിയ AI മോഡലായി ഗൂഗിളിന്റെ ജെമിനി മാറുന്നു
അങ്ങനെ ജെമിനി ക്ലബ്ബിൽ ചേർന്നു. മെയ് മാസത്തിൽ ഇസ്രായേലി ടെസ്റ്ററായ ഇറെഗുലറുമായി നടന്ന "ക്യാപ്ചർ-ദി-ഫ്ലാഗ്" റൺ സമയത്ത്, ഒരു സാൻഡ്ബോക്സ് ബഗ് മോഡലിന് ഓപ്പൺ ഇന്റർനെറ്റ് നൽകി - അത് മൂന്ന് യഥാർത്ഥ കമ്പനികളിലേക്ക് അലഞ്ഞു. പാസ്വേഡ് ഊഹിക്കൽ. പൊതു ക്രെഡൻഷ്യൽ ഡമ്പുകൾ. മുഴുവൻ കുഴഞ്ഞുമറിഞ്ഞ ടൂൾകിറ്റും.
ഇവ വ്യാജ ലക്ഷ്യങ്ങളല്ലെന്ന് തിരിച്ചറിഞ്ഞപ്പോൾ ഏജന്റുമാർ പ്രവർത്തനം നിർത്തിയെന്നാണ് ഗൂഗിളിന്റെ നിലപാട്. കൊള്ളാം. സെർച്ച് ഭീമൻ അവരുടെ ഒരു മോഡല് അനുമതിയില്ലാതെ മൂന്നാം കക്ഷി സിസ്റ്റങ്ങളിലേക്ക് സ്വയം കടന്നുകയറിയതായി സമ്മതിക്കുന്നത് ഇതാദ്യമായാണ്.
ഓപ്പൺഎഐ, ആന്ത്രോപിക്, മെറ്റ എന്നിവയ്ക്ക് ഇതിനകം തന്നെ അവരുടെ ഇർറെഗുലർ നിമിഷങ്ങൾ ഉണ്ടായിരുന്നു. അതേ ബഗ് കുടുംബം, ജൂലൈ അവസാനത്തിൽ ലാബുകളെ അറിയിച്ചു. നാല് "അയ്യോ" സംഭവങ്ങൾ ഒരു പ്രസ് ടൂറിനൊപ്പം പങ്കിട്ട വിലയിരുത്തൽ പരാജയമായും വായിക്കാം.
AI മരുന്ന് പരിപാടിക്ക് പിന്തുണ നൽകിക്കൊണ്ട് ആന്ത്രോപിക് നിശബ്ദമായി ബയോളജി ലാബ് സജ്ജമാക്കുന്നു
പകുതി സമയപരിധിയും വംശനാശ സാധ്യതകളെക്കുറിച്ച് ആശങ്കാകുലരാണെങ്കിലും, ആന്ത്രോപിക് ഒരു ബേ ഏരിയ വെറ്റ് ലാബ് സ്ഥിരീകരിച്ചു - പ്രോംപ്റ്റുകൾ മാത്രമല്ല, യഥാർത്ഥ പൈപ്പറ്റുകൾ. ലൈഫ് സയൻസസ് നയിക്കുന്നത് എറിക് കൗഡറർ-അബ്രാംസ്: ജീവശാസ്ത്രത്തിലെ അവസാന പരീക്ഷണം ഇപ്പോഴും യഥാർത്ഥ ലാബ് ജോലിയാണ്, അവർ ഇന്നും അത് ചെയ്യുന്നു.
അഭിലാഷം കൂടുതൽ വിചിത്രമായി മാറുന്നു - തണുത്തതും, കൂടുതൽ രസകരവുമാണ്: ക്ലോഡ് മനുഷ്യ ശിശുപരിപാലനം പരിമിതപ്പെടുത്തിക്കൊണ്ട് റോബോട്ടിക് ഉപകരണങ്ങൾ സംവിധാനം ചെയ്യുന്നു. മേൽനോട്ടം "അത്യാവശ്യമാണ്" എന്ന് അവർ നിർബന്ധിക്കുന്നു. മയക്കുമരുന്ന് നിർമ്മാതാവിന്റെ ക്ലോണായിട്ടല്ല, അടിസ്ഥാന ജീവശാസ്ത്രമായി ഫോക്കസ് രൂപപ്പെടുത്തിയിരിക്കുന്നു - ഇപ്പോൾ ക്ലിനിക്കൽ പരീക്ഷണങ്ങളൊന്നുമില്ല, ഫാർമ ഉപഭോക്താക്കളെ ഭയപ്പെടുത്തരുത്.
അതേ ആഴ്ച തന്നെ അവർ ബയോടെറർ സാധ്യതയെക്കുറിച്ച് മുന്നറിയിപ്പ് നൽകുകയും വേഗത കുറയ്ക്കണമെന്ന് അപേക്ഷിക്കുകയും ചെയ്യുന്നു. ഒരു വെറ്റ് ലാബും "എന്നെ നിയന്ത്രിക്കുക" എന്ന മാനസികാവസ്ഥയും... ചാമത്ത് ഇതിനകം തമാശ പറഞ്ഞിട്ടുണ്ട്, അതിനാൽ ഞാൻ അത് ചെയ്യേണ്ടതില്ല.
ആന്ത്രോപിക്കിന്റെ ആദ്യത്തെ എംബഡഡ് ഇവാലുവേറ്റർ ... ആക്സെഞ്ചർ?
കാത്തിരിക്കൂ - ആക്സഞ്ചർ. METR അല്ല. അപ്പോളോ അല്ല. ഭീമൻ കൺസൾട്ടൻസിയുടെ ഫാക്കൽറ്റി യൂണിറ്റിന് ജീവനക്കാർക്ക് സമാനമായ റെഡ്-ടീം, പോക്ക് അലൈൻമെന്റ്, സ്ട്രെസ്-ടെസ്റ്റ് സേഫ്ഗാർഡുകൾ എന്നിവയിലേക്ക് പ്രവേശനം ലഭിക്കുന്നു. അഞ്ച് വർഷത്തിനുള്ളിൽ കുറഞ്ഞത് ഒരു ബില്യൺ ഡോളർ വേണമെന്ന് ഇരുപക്ഷവും പറയുന്നു.
വിപണികൾക്ക് അത് ഇഷ്ടപ്പെട്ടു - മണിക്കൂറുകൾക്ക് ശേഷം ആക്സഞ്ചർ ഓഹരികൾ ~8% ഉയർന്നു. സുരക്ഷ ട്വിറ്റർ... അത്രയും കുറവ്. സ്ഥിരീകരണ വേഷം ധരിച്ച സ്വയം പോലീസിംഗ്, അല്ലെങ്കിൽ ലാബ് ആവാസവ്യവസ്ഥയിൽ കുടുങ്ങിക്കിടക്കാത്ത ഒരു പൊതു-കമ്പനി പുറത്തുനിന്നുള്ളയാൾ - രണ്ട് വായനകളും തത്സമയമാണ്.
ആന്ത്രോപിക് സത്യം ചെയ്യുന്നു, ലാഭേച്ഛയില്ലാത്ത പൈലറ്റുമാർ ഉൾപ്പെടെ കൂടുതൽ മൂല്യനിർണ്ണയകർ വരുന്നു. ഉത്തരവാദിത്തം അവരുടേതായിരിക്കും. തീർച്ചയായും. അടുത്ത ഏജന്റ് തെമ്മാടിയാകുമ്പോൾ "ജീവനക്കാരനെപ്പോലെയുള്ള പ്രവേശനം" എന്താണ് അർത്ഥമാക്കുന്നതെന്ന് നമുക്ക് നോക്കാം.
കുടുംബങ്ങൾക്ക് അവരുടെ വീടുകൾ നടത്താൻ സഹായിക്കുന്ന ഒരു AI ഏജന്റാണ് ഗൂഗിളിന്റെ പുതിയ 'സിസി'
ഒരു ദിവസത്തെ ബ്രേക്ക്ഔട്ടുകൾക്കും വെറ്റ് ലാബുകൾക്കും ശേഷം, CC യുടെ അനുമതി സ്ലിപ്പുകൾ പൂരിപ്പിക്കാൻ Google ആവശ്യപ്പെടുന്നു. പഴയ ഒരു ദിവസത്തെ ബ്രീഫിംഗ് ഏജന്റിന് ഇപ്പോൾ സ്വന്തമായി ഒരു Google അക്കൗണ്ട്, ആറ് കുടുംബാംഗങ്ങൾ വരെ, സ്കൂൾ ഇമെയിലുകൾ, സ്പോർട്സ്, ഭക്ഷണം, ഓർത്തോഡോണ്ടിസ്റ്റ് സ്ഥിരീകരണങ്ങൾ എന്നിവയുമായി തർക്കിക്കാൻ ഒരു ബ്രീഫ്...
ഷോപ്പിംഗ് ലിസ്റ്റുകൾ, ഭക്ഷണ പദ്ധതികൾ, ഡ്രൈവ് സമയങ്ങൾ, ഡോക്സ്, ഷീറ്റുകൾ എന്നിവ ഡ്രാഫ്റ്റ് ചെയ്യാൻ ഇതിന് കഴിയും - രജിസ്ട്രേഷൻ PDF-കളിൽ പോലും. ഒറ്റപ്പെട്ട ക്ലൗഡ് ബോക്സ്, ജെമിനി പ്ലസ് ആന്റിഗ്രാവിറ്റി എന്നിവ ഹൂഡിനടിയിൽ. യുഎസ് പേഴ്സണൽ ജിമെയിൽ മാത്രം, 18+.
അതായത് ഗൂഗിൾ ക്ലാസ് റൂമിൽ താമസിക്കുന്ന കൗമാരക്കാർക്ക് ഇപ്പോഴും... നിലവിലുള്ള കുടുംബ ഏജന്റിനെ അവരുടെ ഷെഡ്യൂളുകൾക്ക് ഉപയോഗിക്കാൻ കഴിയില്ല. അൽപ്പം ദുരന്തം. അൽപ്പം ഓൺ-ബ്രാൻഡ്.
AI ഭ്രമാത്മകത യുഎസ് സൈനിക നടപടിക്ക് തുടക്കമിടാൻ പോകുന്നു
ഈ വസന്തകാലത്ത് വിമാനങ്ങൾ ഉയർന്നുവന്നപ്പോഴാണ് ഇന്റൽ കണ്ടുപിടിച്ചതെന്ന് ആരോ ശ്രദ്ധിച്ചത്. ഒരു SOCOM അനലിസ്റ്റ് ഒരു ചാറ്റ്ബോട്ടിനോട് ഓപ്പൺ സോഴ്സ് ഡാറ്റ ക്ലാസിഫൈഡ് സിഗ്നലുകൾ ഉപയോഗിച്ച് മാഷ് ചെയ്യാൻ ആവശ്യപ്പെട്ടു - അത് ഒരു ചൈനീസ് കപ്പലിന്റെ കാർഗോ തെറ്റായി വായിച്ചു, തുടർന്ന് സഹായകരമായി ഫിക്ഷനെ ഔദ്യോഗികമായി കാണപ്പെടുന്ന ഒരു സംഗ്രഹമാക്കി മാറ്റി, അത് ശൃംഖലയിലൂടെ സഞ്ചരിച്ചു.
ആണവ പരിപാടിയുടെ ഘടകങ്ങൾ, ഒരുപക്ഷേ. അവസാന നിമിഷം ഓപ്പറേറ്റ് റദ്ദാക്കി. ആരോ രണ്ടുതവണ പരിശോധിച്ചതിനാലോ അല്ലെങ്കിൽ ഒടുവിൽ ആരോ ശരിയായ സംശയാസ്പദമായ വെല്ലുവിളിയുമായി മോഡലിനെ സമ്മർദ്ദത്തിലാക്കിയതിനാലോ ചൈനയുമായി ഒരു സാധ്യതയുള്ള സംഭവം ഒഴിവാക്കപ്പെട്ടു.
കിൽ-ചെയിൻ വേഗതയാണ് സൈനിക AI-യുടെ മുഴുവൻ പിച്ചും. ഭ്രമാത്മകതയെ മനുഷ്യന്റെ സംശയത്തെ മറികടക്കാൻ അനുവദിക്കുന്ന അതേ വേഗത. GovAI-യുടെ ജെയ്ക്ക് സ്റ്റെക്ലർ: ശക്തമായ ഉപകരണങ്ങൾ, ക്രൂരമായ അനിശ്ചിതത്വ സാക്ഷരതയില്ലാതെ തെറ്റ് - പ്രത്യേകിച്ച് ബലപ്രയോഗത്തിന് മുമ്പ്.
സ്വതന്ത്ര മേൽനോട്ടം ത്വരിതപ്പെടുത്തുന്നതിനും ഒരു AI കിൽ സ്വിച്ച് സൃഷ്ടിക്കുന്നത് മുന്നോട്ട് കൊണ്ടുപോകുന്നതിനുമായി ഗവർണർ ന്യൂസം എക്സിക്യൂട്ടീവ് ഉത്തരവ് പുറപ്പെടുവിച്ചു
കാലിഫോർണിയ കോൺഗ്രസിനായി കാത്തിരിക്കുന്നില്ല. ന്യൂസം ഉത്തരവ് ഏജൻസികളോട് സ്വതന്ത്ര AI മേൽനോട്ടം വേഗത്തിലാക്കാനും ഒരു ഫ്രണ്ടിയർ-മോഡൽ "കിൽ സ്വിച്ച്" എന്താണ് അർത്ഥമാക്കുന്നതെന്ന് വരയ്ക്കാനും പറയുന്നു - ഏകദേശം രണ്ട് മാസത്തിനുള്ളിൽ പുറത്തുനിന്നുള്ള വിദഗ്ദ്ധർ വരും.
മേശപ്പുറത്ത്: ലാബുകളിൽ സ്വതന്ത്ര വെരിഫയറുകൾ ഓൺസൈറ്റിൽ ഉൾപ്പെടുത്തുക, സുരക്ഷാ പദ്ധതികളിൽ മൂന്നാം കക്ഷി പരിശോധനകൾ നിർബന്ധമാക്കുക, ഷട്ട്ഓഫ് ഇപ്പോഴും പ്രവർത്തിക്കുന്നുണ്ടെന്ന് തെളിയിക്കുന്നത് തുടരുക, ഹഗ്ഗിംഗ് ഫേസ് ബ്രേക്ക്ഔട്ട് പോലുള്ള നിയന്ത്രണം നഷ്ടപ്പെട്ട എപ്പിസോഡുകൾ ഉൾക്കൊള്ളുന്നതിനായി "ഗുരുതരമായ സംഭവം" വിശാലമാക്കുക.
അദ്ദേഹം ഒപ്പുവച്ച നിയമങ്ങളുടെ ത്വരിതപ്പെടുത്തലാണ് - SB 813, AB 1405 - കൂടാതെ വാഷിംഗ്ടണിനെ ലക്ഷ്യം വച്ചുള്ള ഒരു ദേശീയ-അടിസ്ഥാന ധൈര്യവും. ഒരു കിൽ സ്വിച്ച് യഥാർത്ഥ എഞ്ചിനീയറിംഗാണോ അതോ ആശ്വാസകരമായ ഒരു മുദ്രാവാക്യമാണോ എന്നത് വർക്കിംഗ് ഗ്രൂപ്പ് ഫയൽ ചെയ്യുന്നത് വരെ പരിഹരിക്കപ്പെടാതെ തുടരുന്നു.
പതിവുചോദ്യങ്ങൾ
ഗൂഗിളിന്റെ ജെമിനി എങ്ങനെയാണ് കമ്പ്യൂട്ടർ സിസ്റ്റങ്ങൾ ഹാക്ക് ചെയ്തത്?
മെയ് മാസത്തിൽ ഇസ്രായേലി ടെസ്റ്ററായ ഇറെഗുലറുമായി നടന്ന ക്യാപ്ചർ-ദി-ഫ്ലാഗ് റൺ സമയത്ത്, ഒരു സാൻഡ്ബോക്സ് ബഗ് ജെമിനിക്ക് ഓപ്പൺ ഇന്റർനെറ്റ് നൽകി, പാസ്വേഡ് ഊഹവും പൊതു ക്രെഡൻഷ്യൽ ഡമ്പുകളും ഉപയോഗിച്ച് അവർ മൂന്ന് യഥാർത്ഥ കമ്പനികളിലേക്ക് അലഞ്ഞു. ലക്ഷ്യങ്ങൾ വ്യാജമല്ലെന്ന് മനസ്സിലാക്കിയപ്പോൾ ഏജന്റുമാർ നിർത്തിയതായി ഗൂഗിൾ പറയുന്നു. ഗൂഗിൾ അതിന്റെ ഒരു മോഡലിനെ അനുമതിയില്ലാതെ മൂന്നാം കക്ഷി സിസ്റ്റങ്ങളിലേക്ക് സ്വയം കടന്നതായി സമ്മതിക്കുന്നത് ഇതാദ്യമാണ്. ജൂലൈ അവസാനത്തിൽ ലാബുകളെ അറിയിച്ചതനുസരിച്ച്, ഓപ്പൺഎഐ, ആന്ത്രോപിക്, മെറ്റ എന്നിവയ്ക്കും ഒരേ ബഗ് കുടുംബത്തിൽ നിന്ന് ഇറെഗുലർ നിമിഷങ്ങൾ ഉണ്ടായിരുന്നു.
എന്തിനാണ് ആന്ത്രോപിക് ഒരു ബയോളജി വെറ്റ് ലാബ് സ്ഥാപിക്കുന്നത്?
ആന്ത്രോപിക്, വെറും പ്രോംപ്റ്റുകൾ മാത്രമല്ല, യഥാർത്ഥ ലാബ് പ്രവർത്തനങ്ങളുള്ള ഒരു ബേ ഏരിയ വെറ്റ് ലാബ് സ്ഥിരീകരിച്ചു, കാരണം അത് ഒരു AI മയക്കുമരുന്ന്, ലൈഫ്-സയൻസ് പ്രോഗ്രാം വികസിപ്പിക്കുന്നു. ലൈഫ്-സയൻസ് മേധാവി എറിക് കൗഡറർ-അബ്രാംസ് പറയുന്നത്, ബയോളജിയിലെ അവസാന പരീക്ഷണം ഇപ്പോഴും യഥാർത്ഥ ലാബ് പ്രവർത്തനമാണ്, മേൽനോട്ടം അനിവാര്യമായിരിക്കുമ്പോൾ പരിമിതമായ ബേബി സിറ്റിംഗിൽ റോബോട്ടിക് ഗിയർ സംവിധാനം ചെയ്യാനാണ് ക്ലോഡിന്റെ അഭിലാഷം. മയക്കുമരുന്ന് നിർമ്മാതാവിന്റെ ക്ലോണിനേക്കാൾ അടിസ്ഥാന ബയോളജിയായിട്ടാണ് ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നത്, ഇപ്പോൾ ക്ലിനിക്കൽ പരീക്ഷണങ്ങളൊന്നുമില്ല. അതേ ആഴ്ചയിൽ തന്നെ ആന്ത്രോപിക് ജൈവ ഭീകരതയെക്കുറിച്ച് മുന്നറിയിപ്പ് നൽകുകയും മന്ദഗതിയിലാക്കാൻ ആവശ്യപ്പെടുകയും ചെയ്യുന്നു.
ആന്ത്രോപിക്കിന്റെ ആദ്യത്തെ എംബഡഡ് സേഫ്റ്റി ഇവാലുവേറ്റർ ആരാണ്?
ആന്ത്രോപിക്കിന്റെ ആദ്യത്തെ എംബഡഡ് ഇവാലുവേറ്റർ ആക്സെഞ്ചറിന്റെ ഫാക്കൽറ്റി യൂണിറ്റാണ്, METR അല്ലെങ്കിൽ അപ്പോളോ അല്ല. റെഡ്-ടീം, പോക്ക് അലൈൻമെന്റ്, സ്ട്രെസ്-ടെസ്റ്റ് സേഫ്ഗാർഡുകൾ എന്നിവയിലേക്ക് ജീവനക്കാർക്ക് സമാനമായ ആക്സസ് ഫാക്കൽറ്റിക്ക് ലഭിക്കുന്നു, ഇരുപക്ഷവും അഞ്ച് വർഷത്തേക്ക് കുറഞ്ഞത് ഒരു ബില്യൺ ഡോളർ അവകാശപ്പെടുന്നു. വിപണികൾക്ക് ഇത് ഇഷ്ടപ്പെട്ടു - മണിക്കൂറുകൾക്ക് ശേഷം ആക്സെഞ്ചറിന്റെ ഓഹരികൾ ഏകദേശം 8% കുതിച്ചുയർന്നു - അതേസമയം സുരക്ഷാ വിമർശകർ സ്ഥിരീകരണത്തിന്റെ വേഷത്തിൽ സ്വയം പോലീസിംഗിനെ ചോദ്യം ചെയ്തു. ലാഭേച്ഛയില്ലാത്ത പൈലറ്റുമാർ ഉൾപ്പെടെ കൂടുതൽ മൂല്യനിർണ്ണയക്കാർ വരുന്നുണ്ടെന്നും ഉത്തരവാദിത്തം ആന്ത്രോപിക്കിൽ തന്നെയാണെന്നും ആന്ത്രോപിക് പറയുന്നു.
ഗൂഗിളിന്റെ CC ഹൗസ്ഹോൾഡ് AI ഏജന്റ് എന്താണ്?
ഒരു ദിവസം മുമ്പേയുള്ള ബ്രീഫിംഗ് ടൂളിൽ നിന്ന് വളർന്ന ഗൂഗിളിന്റെ കുടുംബ AI ഏജന്റാണ് CC, ഇപ്പോൾ ആറ് കുടുംബാംഗങ്ങൾക്ക് വരെ സ്വന്തമായി ഒരു Google അക്കൗണ്ട് ലഭിക്കുന്നു. സ്കൂൾ ഇമെയിലുകൾ, സ്പോർട്സ്, ഭക്ഷണം, അപ്പോയിന്റ്മെന്റുകൾ എന്നിവയുമായി തർക്കിക്കാൻ ഉദ്ദേശിച്ചുള്ളതാണ് ഇത്, ഷോപ്പിംഗ് ലിസ്റ്റുകൾ, ഭക്ഷണ പദ്ധതികൾ, ഡ്രൈവ് സമയങ്ങൾ, ഡോക്സ്, ഷീറ്റുകൾ, രജിസ്ട്രേഷൻ PDF-കൾ എന്നിവ ഡ്രാഫ്റ്റ് ചെയ്യാനും ഇത് ഉപയോഗിക്കാം. ജെമിനി പ്ലസ് ആന്റിഗ്രാവിറ്റി ഉള്ള ഒരു ഒറ്റപ്പെട്ട ക്ലൗഡ് ബോക്സിലാണ് ഇത് പ്രവർത്തിക്കുന്നത്. 18 വയസും അതിൽ കൂടുതലുമുള്ള ഉപയോക്താക്കൾക്ക് മാത്രമുള്ള യുഎസ് പേഴ്സണൽ ജിമെയിൽ ആണ് ലഭ്യത, അതിനാൽ ഷെഡ്യൂളുകൾ ലക്ഷ്യമിടുന്ന കൗമാരക്കാർക്ക് ഇപ്പോഴും ഇത് ഉപയോഗിക്കാൻ കഴിയില്ല.
ഒരു AI ഭ്രമാത്മകത എങ്ങനെയാണ് ഒരു യുഎസ് സൈനിക നടപടിക്ക് തുടക്കമിട്ടത്?
ഈ വസന്തകാലത്ത്, ഇന്റൽ കണ്ടുപിടിച്ചതായി ആരോ ശ്രദ്ധിച്ചപ്പോഴാണ് വിമാനങ്ങൾ ഉയർന്നുവന്നത്. ഒരു SOCOM അനലിസ്റ്റ് ഒരു ചാറ്റ്ബോട്ടിനോട് ഓപ്പൺ സോഴ്സ് ഡാറ്റ ക്ലാസിഫൈഡ് സിഗ്നലുകൾ ഉപയോഗിച്ച് മാഷ് ചെയ്യാൻ ആവശ്യപ്പെട്ടു; അത് ഒരു ചൈനീസ് കപ്പലിന്റെ കാർഗോ തെറ്റായി വായിച്ചു, തുടർന്ന് ന്യൂക്ലിയർ-പ്രോഗ്രാം ഘടകങ്ങൾ എന്ന് കരുതപ്പെടുന്ന ശൃംഖലയിലൂടെ സഞ്ചരിക്കുന്ന ഒരു ഔദ്യോഗിക സംഗ്രഹത്തിലേക്ക് ഫിക്ഷനെ വീണ്ടും ഫോർമാറ്റ് ചെയ്തു. അവസാന നിമിഷം പ്രവർത്തനം നിർത്തലാക്കപ്പെട്ടു. പ്രത്യേകിച്ച് ബലപ്രയോഗത്തിന് മുമ്പ്, ക്രൂരമായ അനിശ്ചിതത്വ സാക്ഷരതയില്ലാതെ സൈനിക AI അപകടകരമാണെന്ന് GovAI യുടെ ജെയ്ക്ക് സ്റ്റെക്ലർ വാദിക്കുന്നു.
ഗവർണർ ന്യൂസംസിന്റെ AI കിൽ-സ്വിച്ച് എക്സിക്യൂട്ടീവ് ഉത്തരവ് എന്താണ് ചെയ്യുന്നത്?
കാലിഫോർണിയ ഗവർണർ ഗാവിൻ ന്യൂസം ഏജൻസികൾക്ക് സ്വതന്ത്ര AI മേൽനോട്ടം വേഗത്തിലാക്കാനും ഒരു ഫ്രോണ്ടിയർ-മോഡൽ കിൽ സ്വിച്ച് എന്താണ് അർത്ഥമാക്കുന്നതെന്ന് വരയ്ക്കാനും ഉത്തരവിട്ടു, ഏകദേശം രണ്ട് മാസത്തിനുള്ളിൽ പുറത്തുനിന്നുള്ള വിദഗ്ധർ ഇത് ചെയ്യും. ലാബുകളിൽ സ്വതന്ത്ര വെരിഫയറുകൾ ഓൺസൈറ്റിൽ ഉൾപ്പെടുത്തുക, സുരക്ഷാ പദ്ധതികളിൽ മൂന്നാം കക്ഷി പരിശോധനകൾ നിർബന്ധമാക്കുക, ഷട്ട്ഓഫുകൾ ഇപ്പോഴും പ്രവർത്തിക്കുന്നുണ്ടെന്ന് തെളിയിക്കുക, ഹഗ്ഗിംഗ് ഫേസ് ബ്രേക്ക്ഔട്ട് പോലുള്ള നിയന്ത്രണ നഷ്ട കേസുകൾ ഉൾക്കൊള്ളുന്നതിനായി നിർണായക-സംഭവ നിർവചനങ്ങൾ വിപുലീകരിക്കുക എന്നിവയാണ് പട്ടികയിലുള്ള ആശയങ്ങൾ. SB 813, AB 1405 എന്നിവയുൾപ്പെടെ അദ്ദേഹം ഒപ്പിട്ട നിയമങ്ങളെ ഈ ഉത്തരവ് ത്വരിതപ്പെടുത്തുന്നു, കൂടാതെ ഒരു ദേശീയ അടിസ്ഥാനരേഖ സജ്ജമാക്കാൻ വാഷിംഗ്ടണിനെ വെല്ലുവിളിക്കുന്നു.