Quando a Penitenciária Federal dos Estados Unidos foi inaugurada na Ilha de Alcatraz, em agosto de 1934, ela se tornaria o símbolo da guerra americana contra o crime organizado. Alcatraz foi projetada para prender os chefões do crime americano, despojá-los de sua fama e notoriedade pública e, em seguida, confiná-los em um estado de reclusão tão severo que seriam esquecidos por décadas.

No final da década de 1930, o Procurador-Geral Homer S. Cummings comentou, durante uma entrevista à revista Collier's, que George "Machine Gun" Kelly e seus associados ajudaram a transformar o conceito de Alcatraz em realidade.

Homens como Machine Gun Kelly e Al Capone frequentemente dominavam as manchetes dos jornais mais importantes dos Estados Unidos. Alcatraz deveria servir como a solução do governo para deter o crime organizado e silenciar os chefões que sorriam para as câmeras, desafiando a lei.

A entrevista de Collier trouxe à tona o dilema do governo: precisávamos de um lugar para encarcerar os "produtos finais" do nosso sistema de segurança pública. Precisávamos de um local para os engenhosos "artistas da fuga" e para aqueles que eram intratáveis, quebravam a disciplina ou buscavam manter contato com o submundo. No verão de 1933, a lei de sequestro, promulgada no ano anterior, estava levando aos tribunais federais um tipo de criminoso particularmente perigoso. Se condenado, ele estava fadado à prisão perpétua.

As cartas de Kelly para Katheryn eram igualmente tristes. Nelas, falavam do amor que sentiam uma pela outra, às vezes com a esperança de que pudessem viver juntas em paz e tranquilidade, outras vezes se rendendo à realidade de que talvez nunca mais se vissem. Kelly também enviou inúmeras cartas a funcionários da prisão implorando por uma transferência ou por melhores condições em Alcatraz, por vezes se apresentando como porta-voz dos detentos.

Ele escreveu para vários funcionários do governo ao longo de uma década. Em uma carta, escreveu sobre as condições: “Independentemente do que você tenha ouvido sobre Alcatraz, está longe de ser um lugar agradável para cumprir pena. O clima é insuportável e eu, pessoalmente, sofro de sinusite crônica há anos. As instalações de lazer são praticamente inexistentes. Sei que é assim que o departamento quer, mas, para mim, parece haver uma discriminação excepcionalmente grande entre os homens de Alcatraz e os homens em outras instituições federais. Gostaria de estar em um lugar onde pudesse ler um jornal e ouvir rádio, para variar, depois de dez anos aqui.”

Como muitos prisioneiros de Alcatraz, Kelly tornou-se fanático por jogar bridge nos fins de semana no pátio. Mesmo nas condições mais frias, Kelly vivia para sentar no pátio e jogar bridge. Durante a semana, Kelly trabalhava como escriturário nas indústrias e Radkay comentou que ele adorava ler histórias do Velho Oeste. Além de participar de duas greves no final da década de 1930, ele cumpriu sua pena discretamente e fez apenas reclamações ocasionais sobre as condições e expressou o desejo de ser transferido. Ao todo, George "Metralhadora" Kelly cumpriu quase dezessete longos anos em Alcatraz. Ele foi finalmente transferido para a Penitenciária Federal de Leavenworth, no Kansas, chegando em 1º de junho de 1951. Os condenados tinham permissão para ouvir rádio e desfrutavam de mais liberdades do que em Alcatraz.

Em Leavenworth, Kelly reclamou que os caras o seguiam no pátio querendo conhecê-lo e ouvir histórias, o que atrapalhava seus próprios interesses. Radkay, que foi transferido para Leavenworth em agosto de 1952, lembrou mais tarde que vários dos antigos detentos de Alcatraz acabaram no mesmo andar e que também havia vários ex-policiais da ilha trabalhando lá: “Isso facilitou a vida de todos e George, eu e Frankie Delmar, que trabalhamos juntos em Alcatraz, nos reencontramos em Leavenworth”. Os três permaneceram amigos próximos, sempre conversando sobre Alcatraz.

Radkay continua: “Madigan [o diretor de Alcatraz] veio nos visitar uma vez e nos reunimos no refeitório, a sós, para colocar a conversa em dia sobre o que todos estavam fazendo na ilha. Perdemos um grande amigo quando George morreu e, pouco tempo depois, Frankie também faleceu lá. Foi uma época muito solitária para mim. Tanto Frankie quanto George eram meus melhores amigos. Os passeios pelo pátio nunca mais foram os mesmos depois que eles morreram. Frankie não tinha família e foi simplesmente esquecido. Sempre me deixava triste caminhar sozinho pelo pátio pensando nele e em George.”