את האהבה לאוכל רכש רפי כהן במטבחה של סבתא עזיזה, אם אמו ובשלנית בחסד עליון. הקוסקוס, הסרדינים הממולאים ומנות נוספות המופיעות בתפריט המסעדה הן חלק מהמורשת המפוארת של המטבח המרוקאי שספג בילדותו. הקובה של השכנות הכורדיות והבורקס של השכנות התורכיות הם מנות נוספות שראשיתם בזכרונות ובטעמי הילדות של מי שגדל בשכונה ירושלמית מרובת מטבחים וניחוחות.

בגיל 13 החל רפי לעבוד כמתלמד בקונדיטוריה של מלון קינג דיוויד, שם למד את יסודות הקונדיטוריה עד גיוסו לצבא. במקביל לשירותו הצבאי כשף קונדיטור התלמד רפי במטבחו של השף עזרא קדם במסעדת "ארקדיה" הירושלמית. לאחר השחרור עבד רפי כסטאז'ר במטבחי מסעדות אירופאיות מעוטרות בכוכבי מישלן, ביניהן מסעדת “l’arpege” הפריסאית של אלאן פסאר ומסעדת "Oak Room" של השף מרקו פייר וייט בלונדון. בתקופת שהותו בחו"ל זכה להכיר את חומרי הגלם, המקצוענות נטולת הפשרות והמסורת הקולינרית העשירה של המטבח העילי האירופאי.

בשנת 2000, בהיותו בן 23, חזר רפי לארץ ומונה לשף  מסעדת "לה רג'אנס" שבמלון "קינג דיוויד" בירושלים, השף הצעיר ביותר שמונה אי פעם למשרה היוקרתית. בניצוחו הפכה המסעדה הכשרה לאחת מהמסעדות המובילות בארץ.

בשנת 2001 פתח השף כהן את את מסעדת "רפאל" בתל אביב. מיום פתיחתה זכתה המסעדה להצלחה חסרת תקדים בקרב המבקרים  והקהל הרחב, והפכה בתשע שנות קיומה לאחד ממוסדות האוכל הנחשבים והמוערכים בישראל.