Počátkem 40. let začal studovat literaturu na New School for Social Research v New Yorku, kde se seznámil s Williamem S. Burroughsem a Allenem Ginsbergem. S nimi také přicestoval do San Franciska (1958), kde se usadil ve čtvrti North Beach. Tam se nechal inspirovat dlouhými improvizovanými sóly a rytmy bebopových hudebníků a ve stejném duchu začal psát své básně, které recitoval v barech, kavárnách i na ulicích. Jeho básnický styl, pro který byl přezdíván “The Original Be-Bop Man”, ovlivnil tvorbu Kennetha Rexrothe, LeRoi Jonese, Allena Ginsberga, Jacka Kerouaka, Lawrence Ferlinghettiho i Gregoryho Corsa (kromě jazzu se v jeho poezii významně projevuje i zenbuddhismus).

Literární kritice i širšímu obecenstvu však jeho tvorba zůstávala dlouho utajena, neboť jeho básně byly spíše spontánními kompozicemi, které odmítal zapisovat. Většina básní se tak zachovala díky jeho manželce, spisovatelce a literární agentce Eileen Kaufmanové (rozvedeni 1958), nebo byla přepisem jeho vystoupení, které pořídili jeho přátelé. To je případ jeho tří básnických letáků – Abomunist Manifesto, Second April a Does the Secret Mind Whisper?, které vyšly ve Ferlinghettiho nakladatelství City Lights v r. 1959. Především první z nich je dnes považován za jakýsi “programový” manifest beat generation, ačkoliv se ve své podstatě jedná o antimanifest, který se vysmívá všem snahám vytvořit nějaký systém víry.

Tyto letáky byly zařazeny do první Kaufmanovy sbírky Solitudes Crowded With Loneliness (1965), která vzbudila jistou pozornost v celoamerickém kontextu, zvláště poté, co vyšel její překlad ve Francii (kde byl Kaufman nazýván “Americký černý Rimbaud”) a později i v německé, italské, polské, ruské, španělské, arabské a dánské verzi, čímž se stala vedle Ginsbergova Howl jedním ze základních děl šířících beatnický přístup ke světu v Evropě.

V r. 1959 založil Bob Kaufman s Allenem Ginsbergem, Johnem Kelleym a Williamem Margolisem časopis Beatitude, který publikoval dosud neznámé autory, mimo jiné i ruth weiss. V r. 1960 přesídlil do New Yorku, předčítal svou poezii na Harvardově univerzitě a v r. 1961 byl ve Velké Británii nominován na prestižní Guinness Poetry Award (nakonec byla udělena T. S. Eliotovi). Následující roky jsou však poznamenány Kaufmanovou závislostí na methedrinu, životem v chudobě a pobytem ve vězení. Po zavraždění Johna F. Kennedyho v r. 1963 se vrátil do San Franciska a složil buddhistickou přísahu mlčení a vyvázání se ze společnosti. Svůj protest ukončil až po dvanácti letech.