Quando il penitenziario federale degli Stati Uniti aprì i battenti sull'isola di Alcatraz nell'agosto del 1934, divenne il simbolo della guerra americana alla criminalità organizzata. Alcatraz fu progettato per catturare i boss del crimine americano, privarli della loro fama e notorietà pubblica, e poi rinchiuderli in un isolamento così rigido da farli cadere nell'oblio per decenni.

Alla fine degli anni '30, il procuratore generale Homer S. Cummings commentò, durante un'intervista con la rivista Collier's, che George "Machine Gun" Kelly e i suoi collaboratori avevano contribuito a trasformare l'idea di Alcatraz in realtà.

Uomini come Machine Gun Kelly e Al Capone dominavano spesso le prime pagine dei più importanti quotidiani americani. Alcatraz doveva servire come soluzione governativa per fermare la criminalità organizzata e mettere a tacere gli zar che sorridevano alle telecamere sfidando la legge.

L'intervista di Collier mise in luce il dilemma del governo: avevamo bisogno di un luogo dove incarcerare i "prodotti finali" del nostro sistema di applicazione della legge. Serviva un posto per gli ingegnosi "artisti della fuga" e per coloro che erano intrattabili, che infrangevano la disciplina o che cercavano di mantenere i contatti con la malavita. Nell'estate del 1933, la legge sul rapimento, promulgata l'anno precedente, stava portando nei tribunali federali un tipo di criminale particolarmente pericoloso. Se condannato, era destinato a scontare l'ergastolo.

Le lettere di Kelly a Katheryn erano altrettanto tristi. Parlavano del loro amore reciproco, a volte con la speranza di poter trascorrere serenamente la vecchiaia insieme, altre volte rassegnandosi alla realtà di non rivedersi mai più. Kelly inviò anche numerose lettere ai funzionari del carcere implorando un trasferimento o migliori condizioni ad Alcatraz, intervenendo talvolta come portavoce dei detenuti.

Nel corso di un decennio, scrisse a diversi funzionari governativi. In una di queste lettere, a proposito delle condizioni di detenzione, affermò: "A prescindere da ciò che avete sentito su Alcatraz, è tutt'altro che un luogo piacevole dove scontare una pena. Il clima è infernale e io, personalmente, soffro da anni di sinusite cronica. Le strutture ricreative sono praticamente inesistenti. Mi rendo conto che è così che il dipartimento lo vuole, ma a mio avviso, sembra esserci una discriminazione eccezionalmente marcata tra i detenuti di Alcatraz e quelli delle altre istituzioni federali. Dopo dieci anni qui, vorrei essere in un posto dove poter leggere un giornale e ascoltare la radio, per una volta."

Come molti prigionieri di Alcatraz, Kelly si appassionò al bridge, che giocava nei fine settimana nel cortile. Persino nelle condizioni più rigide, Kelly non vedeva l'ora di sedersi nel cortile e giocare a bridge. Durante la settimana, lavorava come impiegato nelle industrie e Radkay commentò che amava leggere le storie del vecchio West. A parte la partecipazione a due scioperi alla fine degli anni '30, scontò la sua pena in silenzio, lamentandosi solo occasionalmente delle condizioni e auspicando un trasferimento. In totale, George "Machine Gun" Kelly trascorse quasi diciassette lunghi anni ad Alcatraz. Fu infine trasferito al penitenziario federale di Leavenworth, in Kansas, dove arrivò il 1° giugno 1951. Ai detenuti era permesso ascoltare la radio e godevano di maggiori libertà rispetto ad Alcatraz.

A Leavenworth, Kelly si lamentava del fatto che i detenuti lo seguissero nel cortile, desiderosi di conoscerlo e ascoltare le sue storie, distogliendo così l'attenzione dai suoi interessi. Radkay, trasferitosi a Leavenworth nell'agosto del 1952, ricordò in seguito che un gruppo di vecchi detenuti di Alcatraz si ritrovò nello stesso braccio del carcere e che c'erano anche diversi ex ufficiali dell'isola che lavoravano lì: "Rendeva la vita più facile a tutti e George, io e Frankie Delmar, che avevamo lavorato insieme ad Alcatraz, ci siamo ritrovati a Leavenworth". I tre rimasero amici intimi e parlavano sempre di Alcatraz.

Radkay continua: "Madigan [il direttore di Alcatraz] venne una volta a trovarci e ci riunimmo tutti nella sala da pranzo, da soli, per aggiornarci su cosa stesse succedendo sull'isola. Perdemmo un caro amico quando George morì, e poco dopo anche Frankie morì lì. Fu un periodo di grande solitudine per me. Sia Frankie che George erano i miei migliori amici. Le passeggiate nel cortile non furono più le stesse dopo la loro morte. Frankie non aveva famiglia ed era stato semplicemente dimenticato. Pensare a lui e a George mi rattristava sempre quando camminavo da solo nel cortile."