1504年到达佛罗伦萨后，拉斐尔与里多尔佛·吉兰达约、亚里士多德·达·圣加罗等年轻画家建立了友谊，尤其是塔德奥·塔德伊经常邀请拉斐尔去自己家里吃饭。拉斐尔为了回报他，便为他画了两幅画，这些画呈一种过渡型风格，介于早期的佩鲁吉诺技法与他后来学会的另一种技法之间。’拉斐尔与洛伦佐·纳西也很要好，并由于洛伦佐新近娶了妻子，拉斐尔便为他画了一幅圣母与圣婴的画。

拉斐尔回到佩鲁贾后，于1505年为圣母玛利亚修会教堂的安西德伊礼拜堂画了一幅画《圣母子，施洗者圣约翰及巴里的圣尼古拉斯》（又名《安西帝圣母》），接着他又为圣西维洛的圣母礼拜堂、卡马尔多利修会的一座小型修道院画了一幅壁画，基督沐浴在光环中，天使们簇拥在周围，6名圣徒分坐两旁。在这幅壁画上，他用巨大的字体署上了自己的名字。后来，该城圣安东尼奥·达·帕多瓦的修女们聘请他画一幅圣母与身着衣装的基督像，他遵照她们的要求完成了这幅画。

拉斐尔离开佩鲁贾前，阿塔兰塔·巴利奥尼夫人恳请他在圣弗朗切斯科教堂的礼拜堂画一幅木板画。由于当时无法满足她的愿望，他答应处理完佛罗伦萨的事务回来后，再了却这桩心愿。

逗留佛罗伦萨期间，他将无数心血投入绘画学习中，同时也为礼拜堂那幅画设计草图。拉斐尔在佛罗伦萨研究了马萨乔的早年画作，亲眼目睹了莱奥纳多与米开朗基罗的作品，这促使他更为刻苦地钻研。并且当时拉斐尔与圣马可修道院的弗拉·巴托罗米奥十分要好，此人的着色技巧让拉斐尔甚为着迷，便决定效仿。作为回报，他将这位前辈一度忽略的透视技法传授给他。

然而，就在两人感情日益深厚之际，拉斐尔被召回了佩鲁贾，在那儿用已在佛罗伦萨设计好了草图，开始绘制阿塔兰塔·巴利奥尼委托的订货。这幅绘画表现的是安葬基督的情景，在制作的时候，拉斐尔设想了人们在将自己最热爱的亲人抬去安葬时所流露的悲痛情感。完成这件作品后，拉斐尔回到佛罗伦萨，受市民德伊之托，为他们在圣灵教堂的礼拜堂画一幅祭坛画。于是他着手工作，草图进展很快，同时，他也画了一幅画送往锡耶纳。

1508年4月21日，拉斐尔从佛罗伦萨给他在乌尔比诺的叔叔写了一封信，内容是要他叔叔想办法帮他取得一份推荐信：佛罗伦萨市政广场的项目中，他想投标其中一间会客室的装饰部分。由于布拉曼特正在为教皇尤利乌斯二世效力，并出于两人曾有的少许联系与同乡之谊，他写信告诉拉斐尔已说服教皇为教皇宫增建一些房间，拉斐尔或许有机会在那里一显身手。于是，拉斐尔抛下在佛罗伦萨的工作以及德伊尚未完工的订货（不过这幅画已几近完工）去了罗马。在离开佛罗伦萨之际，他将作品托付给里多尔佛·德尔·吉兰达约，请他完成图中一些蓝色的衣饰。

到达罗马后，拉斐尔发现，这些房间的绝大部分已经画上了图案，如皮耶特罗·德拉·弗朗切斯卡画了一幅画，卢卡·达·考托纳完成了一面墙，而阿雷佐圣克莱芒特教堂的修士唐·皮耶特罗·德拉·加塔已经着手工作。米兰人布拉曼蒂诺也画了几幅画，多数为肖像画。拉斐尔受到教皇尤利乌斯二世的热烈欢迎，他在梵蒂冈宫的“签字厅”画了的第一幅画为《圣礼之争》。拉斐尔先完成了四面墙的构图，然后是天顶部分，但他首先绘制的是天顶的四位人格化的女神形象。

1509年1月13日教皇的财政支出中已经明确有给拉斐尔的支付账户。10月4日，拉斐尔被授予教会“首席画家”的荣誉头衔。

在装饰第二议事厅期间，米开朗基罗在西斯廷礼拜堂的工程上与教皇发生了冲突而逃往佛罗伦萨。布拉曼特掌管了礼拜堂的钥匙，由于与拉斐尔的关系不错，特许他入内观看，以便学习米开朗基罗的技法。

1511年8月16日，教皇尤利乌斯二世在宫殿内设置画室，请拉斐尔画肖像。1512年5月24日的信件中显示，曼特瓦候妃伊莎贝拉要求拉斐尔画一个半身长、着盔甲的费德里科·贡扎哥像。

1513年1月11日及2月19日，分别接到梵蒂冈教廷大使曼特瓦的两封信请拉斐尔画肖像。2月21日尤利乌斯二世去世，拉斐尔不得不暂时停下签字大厅的工作，不久利奥十世上台之后，拉斐尔首先完成的是埃利奥多罗厅的壁画。7月7日，拉斐尔收到来自新教皇利奥十世给的第一笔佣金——50枚达克特金币。