drivers/net/ixgbe/ixgbe_sriov.c

   1 /*******************************************************************************
   2
   3   Intel 10 Gigabit PCI Express Linux driver
   4   Copyright(c) 1999 - 2010 Intel Corporation.
   5
   6   This program is free software; you can redistribute it and/or modify it
   7   under the terms and conditions of the GNU General Public License,
   8   version 2, as published by the Free Software Foundation.
   9
  10   This program is distributed in the hope it will be useful, but WITHOUT
  11   ANY WARRANTY; without even the implied warranty of MERCHANTABILITY or
  12   FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License for
  13   more details.
  14
  15   You should have received a copy of the GNU General Public License along with
  16   this program; if not, write to the Free Software Foundation, Inc.,
  17   51 Franklin St - Fifth Floor, Boston, MA 02110-1301 USA.
  18
  19   The full GNU General Public License is included in this distribution in
  20   the file called "COPYING".
  21
  22   Contact Information:
  23   e1000-devel Mailing List <e1000-devel@lists.sourceforge.net>
  24   Intel Corporation, 5200 N.E. Elam Young Parkway, Hillsboro, OR 97124-6497
  25
  26 *******************************************************************************/
  27
  28 #include <linux/types.h>
  29 #include <linux/module.h>
  30 #include <linux/pci.h>
  31 #include <linux/netdevice.h>
  32 #include <linux/vmalloc.h>
  33 #include <linux/string.h>
  34 #include <linux/in.h>
  35 #include <linux/ip.h>
  36 #include <linux/tcp.h>
  37 #include <linux/ipv6.h>
  38 #ifdef NETIF_F_HW_VLAN_TX
  39 #include <linux/if_vlan.h>
  40 #endif
  41
  42 #include "ixgbe.h"
  43
  44 #include "ixgbe_sriov.h"
  45
  46 static int ixgbe_set_vf_multicasts(struct ixgbe_adapter *adapter,
  47                                    int entries, u16 *hash_list, u32 vf)
  48 {
  49         struct vf_data_storage *vfinfo = &adapter->vfinfo[vf];
  50         struct ixgbe_hw *hw = &adapter->hw;
  51         int i;
  52         u32 vector_bit;
  53         u32 vector_reg;
  54         u32 mta_reg;
  55
  56         /* only so many hash values supported */
  57         entries = min(entries, IXGBE_MAX_VF_MC_ENTRIES);
  58
  59         /*
  60          * salt away the number of multi cast addresses assigned
  61          * to this VF for later use to restore when the PF multi cast
  62          * list changes
  63          */
  64         vfinfo->num_vf_mc_hashes = entries;
  65
  66         /*
  67          * VFs are limited to using the MTA hash table for their multicast
  68          * addresses
  69          */
  70         for (i = 0; i < entries; i++) {
  71                 vfinfo->vf_mc_hashes[i] = hash_list[i];;
  72         }
  73
  74         for (i = 0; i < vfinfo->num_vf_mc_hashes; i++) {
  75                 vector_reg = (vfinfo->vf_mc_hashes[i] >> 5) & 0x7F;
  76                 vector_bit = vfinfo->vf_mc_hashes[i] & 0x1F;
  77                 mta_reg = IXGBE_READ_REG(hw, IXGBE_MTA(vector_reg));
  78                 mta_reg |= (1 << vector_bit);
  79                 IXGBE_WRITE_REG(hw, IXGBE_MTA(vector_reg), mta_reg);
  80         }
  81
  82         return 0;
  83 }
  84
  85 void ixgbe_restore_vf_multicasts(struct ixgbe_adapter *adapter)
  86 {
  87         struct ixgbe_hw *hw = &adapter->hw;
  88         struct vf_data_storage *vfinfo;
  89         int i, j;
  90         u32 vector_bit;
  91         u32 vector_reg;
  92         u32 mta_reg;
  93
  94         for (i = 0; i < adapter->num_vfs; i++) {
  95                 vfinfo = &adapter->vfinfo[i];
  96                 for (j = 0; j < vfinfo->num_vf_mc_hashes; j++) {
  97                         hw->addr_ctrl.mta_in_use++;
  98                         vector_reg = (vfinfo->vf_mc_hashes[j] >> 5) & 0x7F;
  99                         vector_bit = vfinfo->vf_mc_hashes[j] & 0x1F;
 100                         mta_reg = IXGBE_READ_REG(hw, IXGBE_MTA(vector_reg));
 101                         mta_reg |= (1 << vector_bit);
 102                         IXGBE_WRITE_REG(hw, IXGBE_MTA(vector_reg), mta_reg);
 103                 }
 104         }
 105 }
 106
 107 static int ixgbe_set_vf_vlan(struct ixgbe_adapter *adapter, int add, int vid,
 108                              u32 vf)
 109 {
 110         return adapter->hw.mac.ops.set_vfta(&adapter->hw, vid, vf, (bool)add);
 111 }
 112
 113
 114 static void ixgbe_set_vmolr(struct ixgbe_hw *hw, u32 vf, bool aupe)
 115 {
 116         u32 vmolr = IXGBE_READ_REG(hw, IXGBE_VMOLR(vf));
 117         vmolr |= (IXGBE_VMOLR_ROMPE |
 118                   IXGBE_VMOLR_ROPE |
 119                   IXGBE_VMOLR_BAM);
 120         if (aupe)
 121                 vmolr |= IXGBE_VMOLR_AUPE;
 122         else
 123                 vmolr &= ~IXGBE_VMOLR_AUPE;
 124         IXGBE_WRITE_REG(hw, IXGBE_VMOLR(vf), vmolr);
 125 }
 126
 127 static void ixgbe_set_vmvir(struct ixgbe_adapter *adapter, u32 vid, u32 vf)
 128 {
 129         struct ixgbe_hw *hw = &adapter->hw;
 130
 131         if (vid)
 132                 IXGBE_WRITE_REG(hw, IXGBE_VMVIR(vf),
 133                                 (vid | IXGBE_VMVIR_VLANA_DEFAULT));
 134         else
 135                 IXGBE_WRITE_REG(hw, IXGBE_VMVIR(vf), 0);
 136 }
 137
 138 static inline void ixgbe_vf_reset_event(struct ixgbe_adapter *adapter, u32 vf)
 139 {
 140         struct ixgbe_hw *hw = &adapter->hw;
 141         int rar_entry = hw->mac.num_rar_entries - (vf + 1);
 142
 143         /* reset offloads to defaults */
 144         if (adapter->vfinfo[vf].pf_vlan) {
 145                 ixgbe_set_vf_vlan(adapter, true,
 146                                   adapter->vfinfo[vf].pf_vlan, vf);
 147                 ixgbe_set_vmvir(adapter,
 148                                 (adapter->vfinfo[vf].pf_vlan |
 149                                  (adapter->vfinfo[vf].pf_qos <<
 150                                   VLAN_PRIO_SHIFT)), vf);
 151                 ixgbe_set_vmolr(hw, vf, false);
 152         } else {
 153                 ixgbe_set_vmvir(adapter, 0, vf);
 154                 ixgbe_set_vmolr(hw, vf, true);
 155         }
 156
 157         /* reset multicast table array for vf */
 158         adapter->vfinfo[vf].num_vf_mc_hashes = 0;
 159
 160         /* Flush and reset the mta with the new values */
 161         ixgbe_set_rx_mode(adapter->netdev);
 162
 163         hw->mac.ops.clear_rar(hw, rar_entry);
 164 }
 165
 166 static int ixgbe_set_vf_mac(struct ixgbe_adapter *adapter,
 167                             int vf, unsigned char *mac_addr)
 168 {
 169         struct ixgbe_hw *hw = &adapter->hw;
 170         int rar_entry = hw->mac.num_rar_entries - (vf + 1);
 171
 172         memcpy(adapter->vfinfo[vf].vf_mac_addresses, mac_addr, 6);
 173         hw->mac.ops.set_rar(hw, rar_entry, mac_addr, vf, IXGBE_RAH_AV);
 174
 175         return 0;
 176 }
 177
 178 int ixgbe_vf_configuration(struct pci_dev *pdev, unsigned int event_mask)
 179 {
 180         unsigned char vf_mac_addr[6];
 181         struct net_device *netdev = pci_get_drvdata(pdev);
 182         struct ixgbe_adapter *adapter = netdev_priv(netdev);
 183         unsigned int vfn = (event_mask & 0x3f);
 184
 185         bool enable = ((event_mask & 0x10000000U) != 0);
 186
 187         if (enable) {
 188                 random_ether_addr(vf_mac_addr);
 189                 e_info(probe, "IOV: VF %d is enabled MAC %pM\n",
 190                        vfn, vf_mac_addr);
 191                 /*
 192                  * Store away the VF "permananet" MAC address, it will ask
 193                  * for it later.
 194                  */
 195                 memcpy(adapter->vfinfo[vfn].vf_mac_addresses, vf_mac_addr, 6);
 196         }
 197
 198         return 0;
 199 }
 200
 201 static inline void ixgbe_vf_reset_msg(struct ixgbe_adapter *adapter, u32 vf)
 202 {
 203         struct ixgbe_hw *hw = &adapter->hw;
 204         u32 reg;
 205         u32 reg_offset, vf_shift;
 206
 207         vf_shift = vf % 32;
 208         reg_offset = vf / 32;
 209
 210         /* enable transmit and receive for vf */
 211         reg = IXGBE_READ_REG(hw, IXGBE_VFTE(reg_offset));
 212         reg |= (reg | (1 << vf_shift));
 213         IXGBE_WRITE_REG(hw, IXGBE_VFTE(reg_offset), reg);
 214
 215         reg = IXGBE_READ_REG(hw, IXGBE_VFRE(reg_offset));
 216         reg |= (reg | (1 << vf_shift));
 217         IXGBE_WRITE_REG(hw, IXGBE_VFRE(reg_offset), reg);
 218
 219         ixgbe_vf_reset_event(adapter, vf);
 220 }
 221
 222 static int ixgbe_rcv_msg_from_vf(struct ixgbe_adapter *adapter, u32 vf)
 223 {
 224         u32 mbx_size = IXGBE_VFMAILBOX_SIZE;
 225         u32 msgbuf[mbx_size];
 226         struct ixgbe_hw *hw = &adapter->hw;
 227         s32 retval;
 228         int entries;
 229         u16 *hash_list;
 230         int add, vid;
 231
 232         retval = ixgbe_read_mbx(hw, msgbuf, mbx_size, vf);
 233
 234         if (retval)
 235                 pr_err("Error receiving message from VF\n");
 236
 237         /* this is a message we already processed, do nothing */
 238         if (msgbuf[0] & (IXGBE_VT_MSGTYPE_ACK | IXGBE_VT_MSGTYPE_NACK))
 239                 return retval;
 240
 241         /*
 242          * until the vf completes a virtual function reset it should not be
 243          * allowed to start any configuration.
 244          */
 245
 246         if (msgbuf[0] == IXGBE_VF_RESET) {
 247                 unsigned char *vf_mac = adapter->vfinfo[vf].vf_mac_addresses;
 248                 u8 *addr = (u8 *)(&msgbuf[1]);
 249                 e_info(probe, "VF Reset msg received from vf %d\n", vf);
 250                 adapter->vfinfo[vf].clear_to_send = false;
 251                 ixgbe_vf_reset_msg(adapter, vf);
 252                 adapter->vfinfo[vf].clear_to_send = true;
 253
 254                 /* reply to reset with ack and vf mac address */
 255                 msgbuf[0] = IXGBE_VF_RESET | IXGBE_VT_MSGTYPE_ACK;
 256                 memcpy(addr, vf_mac, IXGBE_ETH_LENGTH_OF_ADDRESS);
 257                 /*
 258                  * Piggyback the multicast filter type so VF can compute the
 259                  * correct vectors
 260                  */
 261                 msgbuf[3] = hw->mac.mc_filter_type;
 262                 ixgbe_write_mbx(hw, msgbuf, IXGBE_VF_PERMADDR_MSG_LEN, vf);
 263
 264                 return retval;
 265         }
 266
 267         if (!adapter->vfinfo[vf].clear_to_send) {
 268                 msgbuf[0] |= IXGBE_VT_MSGTYPE_NACK;
 269                 ixgbe_write_mbx(hw, msgbuf, 1, vf);
 270                 return retval;
 271         }
 272
 273         switch ((msgbuf[0] & 0xFFFF)) {
 274         case IXGBE_VF_SET_MAC_ADDR:
 275                 {
 276                         u8 *new_mac = ((u8 *)(&msgbuf[1]));
 277                         if (is_valid_ether_addr(new_mac) &&
 278                             !adapter->vfinfo[vf].pf_set_mac)
 279                                 ixgbe_set_vf_mac(adapter, vf, new_mac);
 280                         else
 281                                 ixgbe_set_vf_mac(adapter,
 282                                   vf, adapter->vfinfo[vf].vf_mac_addresses);
 283                 }
 284                 break;
 285         case IXGBE_VF_SET_MULTICAST:
 286                 entries = (msgbuf[0] & IXGBE_VT_MSGINFO_MASK)
 287                           >> IXGBE_VT_MSGINFO_SHIFT;
 288                 hash_list = (u16 *)&msgbuf[1];
 289                 retval = ixgbe_set_vf_multicasts(adapter, entries,
 290                                                  hash_list, vf);
 291                 break;
 292         case IXGBE_VF_SET_LPE:
 293                 WARN_ON((msgbuf[0] & 0xFFFF) == IXGBE_VF_SET_LPE);
 294                 break;
 295         case IXGBE_VF_SET_VLAN:
 296                 add = (msgbuf[0] & IXGBE_VT_MSGINFO_MASK)
 297                       >> IXGBE_VT_MSGINFO_SHIFT;
 298                 vid = (msgbuf[1] & IXGBE_VLVF_VLANID_MASK);
 299                 retval = ixgbe_set_vf_vlan(adapter, add, vid, vf);
 300                 break;
 301         default:
 302                 e_err(drv, "Unhandled Msg %8.8x\n", msgbuf[0]);
 303                 retval = IXGBE_ERR_MBX;
 304                 break;
 305         }
 306
 307         /* notify the VF of the results of what it sent us */
 308         if (retval)
 309                 msgbuf[0] |= IXGBE_VT_MSGTYPE_NACK;
 310         else
 311                 msgbuf[0] |= IXGBE_VT_MSGTYPE_ACK;
 312
 313         msgbuf[0] |= IXGBE_VT_MSGTYPE_CTS;
 314
 315         ixgbe_write_mbx(hw, msgbuf, 1, vf);
 316
 317         return retval;
 318 }
 319
 320 static void ixgbe_rcv_ack_from_vf(struct ixgbe_adapter *adapter, u32 vf)
 321 {
 322         struct ixgbe_hw *hw = &adapter->hw;
 323         u32 msg = IXGBE_VT_MSGTYPE_NACK;
 324
 325         /* if device isn't clear to send it shouldn't be reading either */
 326         if (!adapter->vfinfo[vf].clear_to_send)
 327                 ixgbe_write_mbx(hw, &msg, 1, vf);
 328 }
 329
 330 void ixgbe_msg_task(struct ixgbe_adapter *adapter)
 331 {
 332         struct ixgbe_hw *hw = &adapter->hw;
 333         u32 vf;
 334
 335         for (vf = 0; vf < adapter->num_vfs; vf++) {
 336                 /* process any reset requests */
 337                 if (!ixgbe_check_for_rst(hw, vf))
 338                         ixgbe_vf_reset_event(adapter, vf);
 339
 340                 /* process any messages pending */
 341                 if (!ixgbe_check_for_msg(hw, vf))
 342                         ixgbe_rcv_msg_from_vf(adapter, vf);
 343
 344                 /* process any acks */
 345                 if (!ixgbe_check_for_ack(hw, vf))
 346                         ixgbe_rcv_ack_from_vf(adapter, vf);
 347         }
 348 }
 349
 350 void ixgbe_disable_tx_rx(struct ixgbe_adapter *adapter)
 351 {
 352         struct ixgbe_hw *hw = &adapter->hw;
 353
 354         /* disable transmit and receive for all vfs */
 355         IXGBE_WRITE_REG(hw, IXGBE_VFTE(0), 0);
 356         IXGBE_WRITE_REG(hw, IXGBE_VFTE(1), 0);
 357
 358         IXGBE_WRITE_REG(hw, IXGBE_VFRE(0), 0);
 359         IXGBE_WRITE_REG(hw, IXGBE_VFRE(1), 0);
 360 }
 361
 362 void ixgbe_ping_all_vfs(struct ixgbe_adapter *adapter)
 363 {
 364         struct ixgbe_hw *hw = &adapter->hw;
 365         u32 ping;
 366         int i;
 367
 368         for (i = 0 ; i < adapter->num_vfs; i++) {
 369                 ping = IXGBE_PF_CONTROL_MSG;
 370                 if (adapter->vfinfo[i].clear_to_send)
 371                         ping |= IXGBE_VT_MSGTYPE_CTS;
 372                 ixgbe_write_mbx(hw, &ping, 1, i);
 373         }
 374 }
 375
 376 int ixgbe_ndo_set_vf_mac(struct net_device *netdev, int vf, u8 *mac)
 377 {
 378         struct ixgbe_adapter *adapter = netdev_priv(netdev);
 379         if (!is_valid_ether_addr(mac) || (vf >= adapter->num_vfs))
 380                 return -EINVAL;
 381         adapter->vfinfo[vf].pf_set_mac = true;
 382         dev_info(&adapter->pdev->dev, "setting MAC %pM on VF %d\n", mac, vf);
 383         dev_info(&adapter->pdev->dev, "Reload the VF driver to make this"
 384                                       " change effective.");
 385         if (test_bit(__IXGBE_DOWN, &adapter->state)) {
 386                 dev_warn(&adapter->pdev->dev, "The VF MAC address has been set,"
 387                          " but the PF device is not up.\n");
 388                 dev_warn(&adapter->pdev->dev, "Bring the PF device up before"
 389                          " attempting to use the VF device.\n");
 390         }
 391         return ixgbe_set_vf_mac(adapter, vf, mac);
 392 }
 393
 394 int ixgbe_ndo_set_vf_vlan(struct net_device *netdev, int vf, u16 vlan, u8 qos)
 395 {
 396         int err = 0;
 397         struct ixgbe_adapter *adapter = netdev_priv(netdev);
 398
 399         if ((vf >= adapter->num_vfs) || (vlan > 4095) || (qos > 7))
 400                 return -EINVAL;
 401         if (vlan || qos) {
 402                 err = ixgbe_set_vf_vlan(adapter, true, vlan, vf);
 403                 if (err)
 404                         goto out;
 405                 ixgbe_set_vmvir(adapter, vlan | (qos << VLAN_PRIO_SHIFT), vf);
 406                 ixgbe_set_vmolr(&adapter->hw, vf, false);
 407                 adapter->vfinfo[vf].pf_vlan = vlan;
 408                 adapter->vfinfo[vf].pf_qos = qos;
 409                 dev_info(&adapter->pdev->dev,
 410                          "Setting VLAN %d, QOS 0x%x on VF %d\n", vlan, qos, vf);
 411                 if (test_bit(__IXGBE_DOWN, &adapter->state)) {
 412                         dev_warn(&adapter->pdev->dev,
 413                                  "The VF VLAN has been set,"
 414                                  " but the PF device is not up.\n");
 415                         dev_warn(&adapter->pdev->dev,
 416                                  "Bring the PF device up before"
 417                                  " attempting to use the VF device.\n");
 418                 }
 419         } else {
 420                 err = ixgbe_set_vf_vlan(adapter, false,
 421                                         adapter->vfinfo[vf].pf_vlan, vf);
 422                 ixgbe_set_vmvir(adapter, vlan, vf);
 423                 ixgbe_set_vmolr(&adapter->hw, vf, true);
 424                 adapter->vfinfo[vf].pf_vlan = 0;
 425                 adapter->vfinfo[vf].pf_qos = 0;
 426        }
 427 out:
 428        return err;
 429 }
 430
 431 int ixgbe_ndo_set_vf_bw(struct net_device *netdev, int vf, int tx_rate)
 432 {
 433         return -EOPNOTSUPP;
 434 }
 435
 436 int ixgbe_ndo_get_vf_config(struct net_device *netdev,
 437                             int vf, struct ifla_vf_info *ivi)
 438 {
 439         struct ixgbe_adapter *adapter = netdev_priv(netdev);
 440         if (vf >= adapter->num_vfs)
 441                 return -EINVAL;
 442         ivi->vf = vf;
 443         memcpy(&ivi->mac, adapter->vfinfo[vf].vf_mac_addresses, ETH_ALEN);
 444         ivi->tx_rate = 0;
 445         ivi->vlan = adapter->vfinfo[vf].pf_vlan;
 446         ivi->qos = adapter->vfinfo[vf].pf_qos;
 447         return 0;
 448 }