Lines Matching +full:pci +full:- +full:rcar +full:- +full:gen2
1 // SPDX-License-Identifier: GPL-2.0-only
3 * PCIe controller driver for Renesas R-Car Gen4 Series SoCs
4 * Copyright (C) 2022-2023 Renesas Electronics Corporation
6 * The r8a779g0 (R-Car V4H) controller requires a specific firmware to be
18 #include <linux/pci.h>
23 #include "../../pci.h"
24 #include "pcie-designware.h"
26 /* Renesas-specific */
75 void (*additional_common_init)(struct rcar_gen4_pcie *rcar);
76 int (*ltssm_control)(struct rcar_gen4_pcie *rcar, bool enable);
92 struct rcar_gen4_pcie *rcar = to_rcar_gen4_pcie(dw); in rcar_gen4_pcie_link_up() local
95 val = readl(rcar->base + PCIEINTSTS0); in rcar_gen4_pcie_link_up()
103 * -ETIMEDOUT.
125 return -ETIMEDOUT; in rcar_gen4_pcie_speed_change()
134 struct rcar_gen4_pcie *rcar = to_rcar_gen4_pcie(dw); in rcar_gen4_pcie_start_link() local
137 if (rcar->drvdata->ltssm_control) { in rcar_gen4_pcie_start_link()
138 ret = rcar->drvdata->ltssm_control(rcar, true); in rcar_gen4_pcie_start_link()
145 * is PCIe Gen2 or higher. in rcar_gen4_pcie_start_link()
147 changes = min_not_zero(dw->max_link_speed, RCAR_MAX_LINK_SPEED) - 1; in rcar_gen4_pcie_start_link()
150 * Since dw_pcie_setup_rc() sets it once, PCIe Gen2 will be trained. in rcar_gen4_pcie_start_link()
153 if (changes && rcar->drvdata->mode == DW_PCIE_RC_TYPE) in rcar_gen4_pcie_start_link()
154 changes--; in rcar_gen4_pcie_start_link()
167 struct rcar_gen4_pcie *rcar = to_rcar_gen4_pcie(dw); in rcar_gen4_pcie_stop_link() local
169 if (rcar->drvdata->ltssm_control) in rcar_gen4_pcie_stop_link()
170 rcar->drvdata->ltssm_control(rcar, false); in rcar_gen4_pcie_stop_link()
173 static int rcar_gen4_pcie_common_init(struct rcar_gen4_pcie *rcar) in rcar_gen4_pcie_common_init() argument
175 struct dw_pcie *dw = &rcar->dw; in rcar_gen4_pcie_common_init()
179 ret = clk_bulk_prepare_enable(DW_PCIE_NUM_CORE_CLKS, dw->core_clks); in rcar_gen4_pcie_common_init()
181 dev_err(dw->dev, "Enabling core clocks failed\n"); in rcar_gen4_pcie_common_init()
185 if (!reset_control_status(dw->core_rsts[DW_PCIE_PWR_RST].rstc)) in rcar_gen4_pcie_common_init()
186 reset_control_assert(dw->core_rsts[DW_PCIE_PWR_RST].rstc); in rcar_gen4_pcie_common_init()
188 val = readl(rcar->base + PCIEMSR0); in rcar_gen4_pcie_common_init()
189 if (rcar->drvdata->mode == DW_PCIE_RC_TYPE) { in rcar_gen4_pcie_common_init()
191 } else if (rcar->drvdata->mode == DW_PCIE_EP_TYPE) { in rcar_gen4_pcie_common_init()
194 ret = -EINVAL; in rcar_gen4_pcie_common_init()
198 if (dw->num_lanes < 4) in rcar_gen4_pcie_common_init()
201 writel(val, rcar->base + PCIEMSR0); in rcar_gen4_pcie_common_init()
203 ret = reset_control_deassert(dw->core_rsts[DW_PCIE_PWR_RST].rstc); in rcar_gen4_pcie_common_init()
207 if (rcar->drvdata->additional_common_init) in rcar_gen4_pcie_common_init()
208 rcar->drvdata->additional_common_init(rcar); in rcar_gen4_pcie_common_init()
213 clk_bulk_disable_unprepare(DW_PCIE_NUM_CORE_CLKS, dw->core_clks); in rcar_gen4_pcie_common_init()
218 static void rcar_gen4_pcie_common_deinit(struct rcar_gen4_pcie *rcar) in rcar_gen4_pcie_common_deinit() argument
220 struct dw_pcie *dw = &rcar->dw; in rcar_gen4_pcie_common_deinit()
222 reset_control_assert(dw->core_rsts[DW_PCIE_PWR_RST].rstc); in rcar_gen4_pcie_common_deinit()
223 clk_bulk_disable_unprepare(DW_PCIE_NUM_CORE_CLKS, dw->core_clks); in rcar_gen4_pcie_common_deinit()
226 static int rcar_gen4_pcie_prepare(struct rcar_gen4_pcie *rcar) in rcar_gen4_pcie_prepare() argument
228 struct device *dev = rcar->dw.dev; in rcar_gen4_pcie_prepare()
241 static void rcar_gen4_pcie_unprepare(struct rcar_gen4_pcie *rcar) in rcar_gen4_pcie_unprepare() argument
243 struct device *dev = rcar->dw.dev; in rcar_gen4_pcie_unprepare()
249 static int rcar_gen4_pcie_get_resources(struct rcar_gen4_pcie *rcar) in rcar_gen4_pcie_get_resources() argument
251 rcar->phy_base = devm_platform_ioremap_resource_byname(rcar->pdev, "phy"); in rcar_gen4_pcie_get_resources()
252 if (IS_ERR(rcar->phy_base)) in rcar_gen4_pcie_get_resources()
253 return PTR_ERR(rcar->phy_base); in rcar_gen4_pcie_get_resources()
255 /* Renesas-specific registers */ in rcar_gen4_pcie_get_resources()
256 rcar->base = devm_platform_ioremap_resource_byname(rcar->pdev, "app"); in rcar_gen4_pcie_get_resources()
258 return PTR_ERR_OR_ZERO(rcar->base); in rcar_gen4_pcie_get_resources()
269 struct device *dev = &pdev->dev; in rcar_gen4_pcie_alloc()
270 struct rcar_gen4_pcie *rcar; in rcar_gen4_pcie_alloc() local
272 rcar = devm_kzalloc(dev, sizeof(*rcar), GFP_KERNEL); in rcar_gen4_pcie_alloc()
273 if (!rcar) in rcar_gen4_pcie_alloc()
274 return ERR_PTR(-ENOMEM); in rcar_gen4_pcie_alloc()
276 rcar->dw.ops = &dw_pcie_ops; in rcar_gen4_pcie_alloc()
277 rcar->dw.dev = dev; in rcar_gen4_pcie_alloc()
278 rcar->pdev = pdev; in rcar_gen4_pcie_alloc()
279 rcar->dw.edma.mf = EDMA_MF_EDMA_UNROLL; in rcar_gen4_pcie_alloc()
280 dw_pcie_cap_set(&rcar->dw, REQ_RES); in rcar_gen4_pcie_alloc()
281 platform_set_drvdata(pdev, rcar); in rcar_gen4_pcie_alloc()
283 return rcar; in rcar_gen4_pcie_alloc()
290 struct rcar_gen4_pcie *rcar = to_rcar_gen4_pcie(dw); in rcar_gen4_pcie_host_init() local
294 gpiod_set_value_cansleep(dw->pe_rst, 1); in rcar_gen4_pcie_host_init()
296 ret = rcar_gen4_pcie_common_init(rcar); in rcar_gen4_pcie_host_init()
310 val = readl(rcar->base + PCIEINTSTS0EN); in rcar_gen4_pcie_host_init()
312 writel(val, rcar->base + PCIEINTSTS0EN); in rcar_gen4_pcie_host_init()
316 gpiod_set_value_cansleep(dw->pe_rst, 0); in rcar_gen4_pcie_host_init()
324 struct rcar_gen4_pcie *rcar = to_rcar_gen4_pcie(dw); in rcar_gen4_pcie_host_deinit() local
326 gpiod_set_value_cansleep(dw->pe_rst, 1); in rcar_gen4_pcie_host_deinit()
327 rcar_gen4_pcie_common_deinit(rcar); in rcar_gen4_pcie_host_deinit()
335 static int rcar_gen4_add_dw_pcie_rp(struct rcar_gen4_pcie *rcar) in rcar_gen4_add_dw_pcie_rp() argument
337 struct dw_pcie_rp *pp = &rcar->dw.pp; in rcar_gen4_add_dw_pcie_rp()
340 return -ENODEV; in rcar_gen4_add_dw_pcie_rp()
342 pp->num_vectors = MAX_MSI_IRQS; in rcar_gen4_add_dw_pcie_rp()
343 pp->ops = &rcar_gen4_pcie_host_ops; in rcar_gen4_add_dw_pcie_rp()
348 static void rcar_gen4_remove_dw_pcie_rp(struct rcar_gen4_pcie *rcar) in rcar_gen4_remove_dw_pcie_rp() argument
350 dw_pcie_host_deinit(&rcar->dw.pp); in rcar_gen4_remove_dw_pcie_rp()
357 struct rcar_gen4_pcie *rcar = to_rcar_gen4_pcie(dw); in rcar_gen4_pcie_ep_pre_init() local
360 ret = rcar_gen4_pcie_common_init(rcar); in rcar_gen4_pcie_ep_pre_init()
364 writel(PCIEDMAINTSTSEN_INIT, rcar->base + PCIEDMAINTSTSEN); in rcar_gen4_pcie_ep_pre_init()
369 struct dw_pcie *pci = to_dw_pcie_from_ep(ep); in rcar_gen4_pcie_ep_init() local
373 dw_pcie_ep_reset_bar(pci, bar); in rcar_gen4_pcie_ep_init()
376 static void rcar_gen4_pcie_ep_deinit(struct rcar_gen4_pcie *rcar) in rcar_gen4_pcie_ep_deinit() argument
378 writel(0, rcar->base + PCIEDMAINTSTSEN); in rcar_gen4_pcie_ep_deinit()
379 rcar_gen4_pcie_common_deinit(rcar); in rcar_gen4_pcie_ep_deinit()
393 dev_err(dw->dev, "Unknown IRQ type\n"); in rcar_gen4_pcie_ep_raise_irq()
394 return -EINVAL; in rcar_gen4_pcie_ep_raise_irq()
437 static int rcar_gen4_add_dw_pcie_ep(struct rcar_gen4_pcie *rcar) in rcar_gen4_add_dw_pcie_ep() argument
439 struct dw_pcie_ep *ep = &rcar->dw.ep; in rcar_gen4_add_dw_pcie_ep()
440 struct device *dev = rcar->dw.dev; in rcar_gen4_add_dw_pcie_ep()
444 return -ENODEV; in rcar_gen4_add_dw_pcie_ep()
446 ep->ops = &pcie_ep_ops; in rcar_gen4_add_dw_pcie_ep()
450 rcar_gen4_pcie_ep_deinit(rcar); in rcar_gen4_add_dw_pcie_ep()
458 rcar_gen4_pcie_ep_deinit(rcar); in rcar_gen4_add_dw_pcie_ep()
461 pci_epc_init_notify(ep->epc); in rcar_gen4_add_dw_pcie_ep()
466 static void rcar_gen4_remove_dw_pcie_ep(struct rcar_gen4_pcie *rcar) in rcar_gen4_remove_dw_pcie_ep() argument
468 dw_pcie_ep_deinit(&rcar->dw.ep); in rcar_gen4_remove_dw_pcie_ep()
469 rcar_gen4_pcie_ep_deinit(rcar); in rcar_gen4_remove_dw_pcie_ep()
473 static int rcar_gen4_add_dw_pcie(struct rcar_gen4_pcie *rcar) in rcar_gen4_add_dw_pcie() argument
475 rcar->drvdata = of_device_get_match_data(&rcar->pdev->dev); in rcar_gen4_add_dw_pcie()
476 if (!rcar->drvdata) in rcar_gen4_add_dw_pcie()
477 return -EINVAL; in rcar_gen4_add_dw_pcie()
479 switch (rcar->drvdata->mode) { in rcar_gen4_add_dw_pcie()
481 return rcar_gen4_add_dw_pcie_rp(rcar); in rcar_gen4_add_dw_pcie()
483 return rcar_gen4_add_dw_pcie_ep(rcar); in rcar_gen4_add_dw_pcie()
485 return -EINVAL; in rcar_gen4_add_dw_pcie()
491 struct rcar_gen4_pcie *rcar; in rcar_gen4_pcie_probe() local
494 rcar = rcar_gen4_pcie_alloc(pdev); in rcar_gen4_pcie_probe()
495 if (IS_ERR(rcar)) in rcar_gen4_pcie_probe()
496 return PTR_ERR(rcar); in rcar_gen4_pcie_probe()
498 err = rcar_gen4_pcie_get_resources(rcar); in rcar_gen4_pcie_probe()
502 err = rcar_gen4_pcie_prepare(rcar); in rcar_gen4_pcie_probe()
506 err = rcar_gen4_add_dw_pcie(rcar); in rcar_gen4_pcie_probe()
513 rcar_gen4_pcie_unprepare(rcar); in rcar_gen4_pcie_probe()
518 static void rcar_gen4_remove_dw_pcie(struct rcar_gen4_pcie *rcar) in rcar_gen4_remove_dw_pcie() argument
520 switch (rcar->drvdata->mode) { in rcar_gen4_remove_dw_pcie()
522 rcar_gen4_remove_dw_pcie_rp(rcar); in rcar_gen4_remove_dw_pcie()
525 rcar_gen4_remove_dw_pcie_ep(rcar); in rcar_gen4_remove_dw_pcie()
534 struct rcar_gen4_pcie *rcar = platform_get_drvdata(pdev); in rcar_gen4_pcie_remove() local
536 rcar_gen4_remove_dw_pcie(rcar); in rcar_gen4_pcie_remove()
537 rcar_gen4_pcie_unprepare(rcar); in rcar_gen4_pcie_remove()
540 static int r8a779f0_pcie_ltssm_control(struct rcar_gen4_pcie *rcar, bool enable) in r8a779f0_pcie_ltssm_control() argument
544 val = readl(rcar->base + PCIERSTCTRL1); in r8a779f0_pcie_ltssm_control()
550 * Since the datasheet of R-Car doesn't mention how to assert in r8a779f0_pcie_ltssm_control()
552 * hang-up issue happened in the dw_edma_core_off() when in r8a779f0_pcie_ltssm_control()
553 * the controller didn't detect a PCI device. in r8a779f0_pcie_ltssm_control()
557 writel(val, rcar->base + PCIERSTCTRL1); in r8a779f0_pcie_ltssm_control()
562 static void rcar_gen4_pcie_additional_common_init(struct rcar_gen4_pcie *rcar) in rcar_gen4_pcie_additional_common_init() argument
564 struct dw_pcie *dw = &rcar->dw; in rcar_gen4_pcie_additional_common_init()
569 if (dw->num_lanes < 4) in rcar_gen4_pcie_additional_common_init()
573 val = readl(rcar->base + PCIEPWRMNGCTRL); in rcar_gen4_pcie_additional_common_init()
575 writel(val, rcar->base + PCIEPWRMNGCTRL); in rcar_gen4_pcie_additional_common_init()
578 static void rcar_gen4_pcie_phy_reg_update_bits(struct rcar_gen4_pcie *rcar, in rcar_gen4_pcie_phy_reg_update_bits() argument
583 tmp = readl(rcar->phy_base + offset); in rcar_gen4_pcie_phy_reg_update_bits()
586 writel(tmp, rcar->phy_base + offset); in rcar_gen4_pcie_phy_reg_update_bits()
591 * write. If read returns non-zero value, then this function returns -EAGAIN
595 static int rcar_gen4_pcie_reg_test_bit(struct rcar_gen4_pcie *rcar, in rcar_gen4_pcie_reg_test_bit() argument
598 struct dw_pcie *dw = &rcar->dw; in rcar_gen4_pcie_reg_test_bit()
601 return -EAGAIN; in rcar_gen4_pcie_reg_test_bit()
606 static int rcar_gen4_pcie_download_phy_firmware(struct rcar_gen4_pcie *rcar) in rcar_gen4_pcie_download_phy_firmware() argument
615 struct dw_pcie *dw = &rcar->dw; in rcar_gen4_pcie_download_phy_firmware()
621 ret = request_firmware(&fw, RCAR_GEN4_PCIE_FIRMWARE_NAME, dw->dev); in rcar_gen4_pcie_download_phy_firmware()
623 dev_err(dw->dev, "Failed to load firmware (%s): %d\n", in rcar_gen4_pcie_download_phy_firmware()
628 for (i = 0; i < (fw->size / 2); i++) { in rcar_gen4_pcie_download_phy_firmware()
629 data = fw->data[(i * 2) + 1] << 8 | fw->data[i * 2]; in rcar_gen4_pcie_download_phy_firmware()
634 if (!rcar_gen4_pcie_reg_test_bit(rcar, PRTLGC89, BIT(30))) in rcar_gen4_pcie_download_phy_firmware()
636 if (!(--timeout)) { in rcar_gen4_pcie_download_phy_firmware()
637 ret = -ETIMEDOUT; in rcar_gen4_pcie_download_phy_firmware()
644 rcar_gen4_pcie_phy_reg_update_bits(rcar, 0x0f8, BIT(17), BIT(17)); in rcar_gen4_pcie_download_phy_firmware()
650 ret = rcar_gen4_pcie_reg_test_bit(rcar, PRTLGC89, BIT(30)); in rcar_gen4_pcie_download_phy_firmware()
651 ret |= rcar_gen4_pcie_reg_test_bit(rcar, PRTLGC90, BIT(0)); in rcar_gen4_pcie_download_phy_firmware()
654 if (!(--timeout)) { in rcar_gen4_pcie_download_phy_firmware()
655 ret = -ETIMEDOUT; in rcar_gen4_pcie_download_phy_firmware()
668 static int rcar_gen4_pcie_ltssm_control(struct rcar_gen4_pcie *rcar, bool enable) in rcar_gen4_pcie_ltssm_control() argument
670 struct dw_pcie *dw = &rcar->dw; in rcar_gen4_pcie_ltssm_control()
675 val = readl(rcar->base + PCIERSTCTRL1); in rcar_gen4_pcie_ltssm_control()
677 writel(val, rcar->base + PCIERSTCTRL1); in rcar_gen4_pcie_ltssm_control()
686 val = readl(rcar->base + PCIEMSR0); in rcar_gen4_pcie_ltssm_control()
688 writel(val, rcar->base + PCIEMSR0); in rcar_gen4_pcie_ltssm_control()
691 * The R-Car Gen4 datasheet doesn't describe the PHY registers' name. in rcar_gen4_pcie_ltssm_control()
695 rcar_gen4_pcie_phy_reg_update_bits(rcar, 0x700, BIT(28), 0); in rcar_gen4_pcie_ltssm_control()
696 rcar_gen4_pcie_phy_reg_update_bits(rcar, 0x700, BIT(20), 0); in rcar_gen4_pcie_ltssm_control()
697 rcar_gen4_pcie_phy_reg_update_bits(rcar, 0x700, BIT(12), 0); in rcar_gen4_pcie_ltssm_control()
698 rcar_gen4_pcie_phy_reg_update_bits(rcar, 0x700, BIT(4), 0); in rcar_gen4_pcie_ltssm_control()
700 rcar_gen4_pcie_phy_reg_update_bits(rcar, 0x148, GENMASK(23, 22), BIT(22)); in rcar_gen4_pcie_ltssm_control()
701 rcar_gen4_pcie_phy_reg_update_bits(rcar, 0x148, GENMASK(18, 16), GENMASK(17, 16)); in rcar_gen4_pcie_ltssm_control()
702 rcar_gen4_pcie_phy_reg_update_bits(rcar, 0x148, GENMASK(7, 6), BIT(6)); in rcar_gen4_pcie_ltssm_control()
703 rcar_gen4_pcie_phy_reg_update_bits(rcar, 0x148, GENMASK(2, 0), GENMASK(11, 0)); in rcar_gen4_pcie_ltssm_control()
704 rcar_gen4_pcie_phy_reg_update_bits(rcar, 0x1d4, GENMASK(16, 15), GENMASK(16, 15)); in rcar_gen4_pcie_ltssm_control()
705 rcar_gen4_pcie_phy_reg_update_bits(rcar, 0x514, BIT(26), BIT(26)); in rcar_gen4_pcie_ltssm_control()
706 rcar_gen4_pcie_phy_reg_update_bits(rcar, 0x0f8, BIT(16), 0); in rcar_gen4_pcie_ltssm_control()
707 rcar_gen4_pcie_phy_reg_update_bits(rcar, 0x0f8, BIT(19), BIT(19)); in rcar_gen4_pcie_ltssm_control()
709 val = readl(rcar->base + PCIERSTCTRL1); in rcar_gen4_pcie_ltssm_control()
711 writel(val, rcar->base + PCIERSTCTRL1); in rcar_gen4_pcie_ltssm_control()
713 ret = readl_poll_timeout(rcar->phy_base + 0x0f8, val, !(val & BIT(18)), 100, 10000); in rcar_gen4_pcie_ltssm_control()
717 ret = rcar_gen4_pcie_download_phy_firmware(rcar); in rcar_gen4_pcie_ltssm_control()
721 val = readl(rcar->base + PCIERSTCTRL1); in rcar_gen4_pcie_ltssm_control()
723 writel(val, rcar->base + PCIERSTCTRL1); in rcar_gen4_pcie_ltssm_control()
752 .compatible = "renesas,r8a779f0-pcie",
756 .compatible = "renesas,r8a779f0-pcie-ep",
760 .compatible = "renesas,rcar-gen4-pcie",
764 .compatible = "renesas,rcar-gen4-pcie-ep",
773 .name = "pcie-rcar-gen4",
782 MODULE_DESCRIPTION("Renesas R-Car Gen4 PCIe controller driver");