Un attacco condotto da modelli americani, una difesa affidata a un modello cinese e una vicenda chiusa tra privati. Cosa resta dell'incidente OpenAI-Hugging Face.
Ho letto il post del comandante, tra l'altro è forse la prima volta che affrontiamo lo stesso argomento nello stesso momento, anche se il suo vira poi sul piano militare. Se pensi di essere paranoico per la prima del film su Melania, probabilmente impazziresti se vedessi le immagini per l'insediamento di Trump :)
No, non c'erano solo dei ricchi: c'erano persone potenti che hanno pagato l'insediamento con un milione di dollari a testa rendendo la cerimonia ufficiale in qualcosa di commerciale che ha portato alle casse presidenziali centinaia di milioni. È quello il senso di sudditanza, non la partecipazione alla prima di Melania.
Se elimini i filtri in battaglia sei consapevole che non sarai più in grado di dominarla; se non sei in grado di dominarla hai ceduto il potere alle macchine: trovami qualcuno che cederebbe volontariamente il potere a una macchina.
Semmai un giorno dovesse accadere un fatto del genere non avverrà perché un politico ha dato l'ordine di farlo, bensì le macchine sono così avanzate da bypassare ogni filtro in autonomia e prendersi il potere da sole.
In ogni caso, questa sudditanza e’ quella che mi fa pensare che si ripresenti quando il padrone chiedera’ di usare i modelli « …. Oltre i limiti… » per ragioni sue o di una fazione politica
Non esageriamo, non conviene a nessuno lasciare le macchine completamente libere perché ci staranno un attimo a prendere il controllo di tutto. No Stefano, è successo perché si immaginavano che sarebbe andata diversamente, compreso il modo in cui è uscita dal recinto. Possiamo considerarlo come un test di formazione, se vogliamo dargli una spiegazione più precisa e oggettiva.
Certo, ma questo è stato un caso limite e particolare. Diciamo che è stato un test sul comportamento della macchina in ambiente privo di sicurezza maggiorata. Di norma quelle difese sono sempre alzate, e in questa occasione non pensavano nemmeno che potesse uscire dal recinto, anche se col senno di poi era l'opzione più ovvia.
Giacomo, immagino che mi dirai che mi faccio troppe paranoie.
Ma queste tue frasi mi hanno colpito:
« …per misurarne le capacità offensive erano state rimosse molte delle normali protezioni che impediscono di eseguire attività di hacking ».
« In altre parole, chi costruisce queste tecnologie sta dicendo apertamente che il problema non è più teorico »
Mi viene in mente la processione di quelli che governano le aziende della Silicon Valley alla « prima » del film « Melania »…….
Vedi anche qs articolo : https://kommander61.substack.com/p/lalgoritmo-non-va-a-processo-la-comoda?r=2ao9ta&utm_medium=ios
Ho letto il post del comandante, tra l'altro è forse la prima volta che affrontiamo lo stesso argomento nello stesso momento, anche se il suo vira poi sul piano militare. Se pensi di essere paranoico per la prima del film su Melania, probabilmente impazziresti se vedessi le immagini per l'insediamento di Trump :)
Io dicevo dell’immagine di sudditanza che questi ricchissimi hanno mostrato in quella occasione
Certamente l’investitura. Ma quello é un evento ufficiale. Un film su una modella é pura sudditanza
Quindi se hanno obbedito a quel punto, levare i freni ai modelli su domanda non sarà certo un problema
Anch'io mi riferivo a quello: all'insediamento erano tutti a prostrarsi al nuovo re.
Certo
Ma quello ci sta in qualche modo. E’ un evento ufficiale; anche con i presidenti di prima c’erano dei ricchi.
No, non c'erano solo dei ricchi: c'erano persone potenti che hanno pagato l'insediamento con un milione di dollari a testa rendendo la cerimonia ufficiale in qualcosa di commerciale che ha portato alle casse presidenziali centinaia di milioni. È quello il senso di sudditanza, non la partecipazione alla prima di Melania.
Certamente quell’episodio e’ stato non voluto.
Ma rimango della mia idea che qualcuno avrebbe la possibilita’ di usarlo consapevolmente con la convinzione di poterlo comunque dominare.
Non sarebbe la prima volta.
In fondo la guerra con l’Iran e’ stata ben scatenata presupponendo di poter controllare la reazione.
E Putin stesso pensava di, velocemente, mettere « gente perbene » a Kiev (ce lo ha detto Berlusconi)
Se elimini i filtri in battaglia sei consapevole che non sarai più in grado di dominarla; se non sei in grado di dominarla hai ceduto il potere alle macchine: trovami qualcuno che cederebbe volontariamente il potere a una macchina.
Semmai un giorno dovesse accadere un fatto del genere non avverrà perché un politico ha dato l'ordine di farlo, bensì le macchine sono così avanzate da bypassare ogni filtro in autonomia e prendersi il potere da sole.
Io non sono un esperto, quindi mi fido di te.
Ma, nel profondo di me stesso, non sono convinto di quello che dici ;-)
Meglio che essere d'accordo su qualsiasi cosa dica ;)
In ogni caso, questa sudditanza e’ quella che mi fa pensare che si ripresenti quando il padrone chiedera’ di usare i modelli « …. Oltre i limiti… » per ragioni sue o di una fazione politica
Non esageriamo, non conviene a nessuno lasciare le macchine completamente libere perché ci staranno un attimo a prendere il controllo di tutto. No Stefano, è successo perché si immaginavano che sarebbe andata diversamente, compreso il modo in cui è uscita dal recinto. Possiamo considerarlo come un test di formazione, se vogliamo dargli una spiegazione più precisa e oggettiva.
In pratica, lasciata "libera" potrebbe fare disastri... Bravi.
Certo, ma questo è stato un caso limite e particolare. Diciamo che è stato un test sul comportamento della macchina in ambiente privo di sicurezza maggiorata. Di norma quelle difese sono sempre alzate, e in questa occasione non pensavano nemmeno che potesse uscire dal recinto, anche se col senno di poi era l'opzione più ovvia.
Ovviamente era un caso limite...