Van Looy was de zoon van een timmerman. Zijn ouders stierven kort na elkaar en vanaf zijn vijfde jaar groeide hij op als weesjongen in het Haarlemse Gereformeerd Burgerweeshuis aan het Groot Heiligland. In dit gebouw is nu het Frans Hals Museum gevestigd. Hij leerde voor het vak van huis- en rijtuigschilder, maar mocht vanwege zijn talent daarnaast tekenlessen volgen. Hij studeerde aan de Rijksacademie voor Beeldende Kunsten in Amsterdam, en was bevriend met onder andere Willem Witsen.
In 1884 kreeg hij de prestigieuze Prix de Rome. Daaraan verbonden was een beurs en een rijkstoelage die hem staat stelde om te reizen en ervaring op te doen. Hij diende een voorgeschreven route te volgen, klassieke werken te kopiëren en regelmatig schriftelijk verslag uit te brengen. Zo reisde hij van 1885 tot 1886 naar Italië, Spanje en Marokko. Verder schreef hij ook korte verhalen. In Amsterdam huwde hij in 1892 met Titia van Gelder (1860-1940), telg uit het Zaanse geslacht van papiermakers, waarna het paar zich vestigde in Soest. Daar leefde het stel teruggetrokken. Onder de dorpsbewoners die hij schilderde hoorde ook de moeder van de latere Utrechtse beeldhouwer Peter d' Hont. Zijn opgedane indrukken van overdag werden later gepubliceerd in Feesten. In 1913 verhuisden ze weer naar Haarlem, waar ze hun verder leven bleven wonen.
Van Looy maakte deel uit van de redactie van het letterkundig tijdschrift De Nieuwe Gids van de beweging der Tachtigers en werd het bekendst door zijn deels autobiografische cyclus Jaapje-Jaap-Jakob. Hierin beschreef hij het leven in het weeshuis en zijn tijd als drukkers- en schildersleerling. Zo krijgt de lezer een beeld van het Haarlem van de jaren 1860/1870. Veel van de door Van Looy beschreven zaken bestaan nog of zijn herkenbaar, andere zijn volkomen veranderd of geheel verdwenen. Andere werken van hem zijn onder andere Reizen, Proza, Nieuw proza en Feesten. Daarnaast vertaalde hij werken van Shakespeare, zoals Macbeth, Hamlet en As you like it. Van deze vertalingen verschenen edities met fraaie illustraties van Rie Cramer. Verder schreef hij gedichten die in diverse publicaties verschenen, maar pas in 1932 door zijn weduwe werden verzameld en uitgegeven. Zijn stijl van schrijven wordt wel omschreven als 'schilderen met woorden'. Van Looy hanteerde een zeer eigen taalgebruik waarin onder andere sferen en kleuren (een herinnering aan zijn tijd als schildersleerling) een rol spelen.
