tools/perf/builtin-kmem.c

   1 #include "builtin.h"
   2 #include "perf.h"
   3
   4 #include "util/util.h"
   5 #include "util/cache.h"
   6 #include "util/symbol.h"
   7 #include "util/thread.h"
   8 #include "util/header.h"
   9 #include "util/session.h"
  10
  11 #include "util/parse-options.h"
  12 #include "util/trace-event.h"
  13
  14 #include "util/debug.h"
  15
  16 #include <linux/rbtree.h>
  17
  18 struct alloc_stat;
  19 typedef int (*sort_fn_t)(struct alloc_stat *, struct alloc_stat *);
  20
  21 static char const               *input_name = "perf.data";
  22
  23 static int                      alloc_flag;
  24 static int                      caller_flag;
  25
  26 static int                      alloc_lines = -1;
  27 static int                      caller_lines = -1;
  28
  29 static bool                     raw_ip;
  30
  31 static char                     default_sort_order[] = "frag,hit,bytes";
  32
  33 static int                      *cpunode_map;
  34 static int                      max_cpu_num;
  35
  36 struct alloc_stat {
  37         u64     call_site;
  38         u64     ptr;
  39         u64     bytes_req;
  40         u64     bytes_alloc;
  41         u32     hit;
  42         u32     pingpong;
  43
  44         short   alloc_cpu;
  45
  46         struct rb_node node;
  47 };
  48
  49 static struct rb_root root_alloc_stat;
  50 static struct rb_root root_alloc_sorted;
  51 static struct rb_root root_caller_stat;
  52 static struct rb_root root_caller_sorted;
  53
  54 static unsigned long total_requested, total_allocated;
  55 static unsigned long nr_allocs, nr_cross_allocs;
  56
  57 #define PATH_SYS_NODE   "/sys/devices/system/node"
  58
  59 static void init_cpunode_map(void)
  60 {
  61         FILE *fp;
  62         int i;
  63
  64         fp = fopen("/sys/devices/system/cpu/kernel_max", "r");
  65         if (!fp) {
  66                 max_cpu_num = 4096;
  67                 return;
  68         }
  69
  70         if (fscanf(fp, "%d", &max_cpu_num) < 1)
  71                 die("Failed to read 'kernel_max' from sysfs");
  72         max_cpu_num++;
  73
  74         cpunode_map = calloc(max_cpu_num, sizeof(int));
  75         if (!cpunode_map)
  76                 die("calloc");
  77         for (i = 0; i < max_cpu_num; i++)
  78                 cpunode_map[i] = -1;
  79         fclose(fp);
  80 }
  81
  82 static void setup_cpunode_map(void)
  83 {
  84         struct dirent *dent1, *dent2;
  85         DIR *dir1, *dir2;
  86         unsigned int cpu, mem;
  87         char buf[PATH_MAX];
  88
  89         init_cpunode_map();
  90
  91         dir1 = opendir(PATH_SYS_NODE);
  92         if (!dir1)
  93                 return;
  94
  95         while ((dent1 = readdir(dir1)) != NULL) {
  96                 if (dent1->d_type != DT_DIR ||
  97                     sscanf(dent1->d_name, "node%u", &mem) < 1)
  98                         continue;
  99
 100                 snprintf(buf, PATH_MAX, "%s/%s", PATH_SYS_NODE, dent1->d_name);
 101                 dir2 = opendir(buf);
 102                 if (!dir2)
 103                         continue;
 104                 while ((dent2 = readdir(dir2)) != NULL) {
 105                         if (dent2->d_type != DT_LNK ||
 106                             sscanf(dent2->d_name, "cpu%u", &cpu) < 1)
 107                                 continue;
 108                         cpunode_map[cpu] = mem;
 109                 }
 110         }
 111 }
 112
 113 static void insert_alloc_stat(unsigned long call_site, unsigned long ptr,
 114                               int bytes_req, int bytes_alloc, int cpu)
 115 {
 116         struct rb_node **node = &root_alloc_stat.rb_node;
 117         struct rb_node *parent = NULL;
 118         struct alloc_stat *data = NULL;
 119
 120         while (*node) {
 121                 parent = *node;
 122                 data = rb_entry(*node, struct alloc_stat, node);
 123
 124                 if (ptr > data->ptr)
 125                         node = &(*node)->rb_right;
 126                 else if (ptr < data->ptr)
 127                         node = &(*node)->rb_left;
 128                 else
 129                         break;
 130         }
 131
 132         if (data && data->ptr == ptr) {
 133                 data->hit++;
 134                 data->bytes_req += bytes_req;
 135                 data->bytes_alloc += bytes_req;
 136         } else {
 137                 data = malloc(sizeof(*data));
 138                 if (!data)
 139                         die("malloc");
 140                 data->ptr = ptr;
 141                 data->pingpong = 0;
 142                 data->hit = 1;
 143                 data->bytes_req = bytes_req;
 144                 data->bytes_alloc = bytes_alloc;
 145
 146                 rb_link_node(&data->node, parent, node);
 147                 rb_insert_color(&data->node, &root_alloc_stat);
 148         }
 149         data->call_site = call_site;
 150         data->alloc_cpu = cpu;
 151 }
 152
 153 static void insert_caller_stat(unsigned long call_site,
 154                               int bytes_req, int bytes_alloc)
 155 {
 156         struct rb_node **node = &root_caller_stat.rb_node;
 157         struct rb_node *parent = NULL;
 158         struct alloc_stat *data = NULL;
 159
 160         while (*node) {
 161                 parent = *node;
 162                 data = rb_entry(*node, struct alloc_stat, node);
 163
 164                 if (call_site > data->call_site)
 165                         node = &(*node)->rb_right;
 166                 else if (call_site < data->call_site)
 167                         node = &(*node)->rb_left;
 168                 else
 169                         break;
 170         }
 171
 172         if (data && data->call_site == call_site) {
 173                 data->hit++;
 174                 data->bytes_req += bytes_req;
 175                 data->bytes_alloc += bytes_req;
 176         } else {
 177                 data = malloc(sizeof(*data));
 178                 if (!data)
 179                         die("malloc");
 180                 data->call_site = call_site;
 181                 data->pingpong = 0;
 182                 data->hit = 1;
 183                 data->bytes_req = bytes_req;
 184                 data->bytes_alloc = bytes_alloc;
 185
 186                 rb_link_node(&data->node, parent, node);
 187                 rb_insert_color(&data->node, &root_caller_stat);
 188         }
 189 }
 190
 191 static void process_alloc_event(void *data,
 192                                 struct event *event,
 193                                 int cpu,
 194                                 u64 timestamp __used,
 195                                 struct thread *thread __used,
 196                                 int node)
 197 {
 198         unsigned long call_site;
 199         unsigned long ptr;
 200         int bytes_req;
 201         int bytes_alloc;
 202         int node1, node2;
 203
 204         ptr = raw_field_value(event, "ptr", data);
 205         call_site = raw_field_value(event, "call_site", data);
 206         bytes_req = raw_field_value(event, "bytes_req", data);
 207         bytes_alloc = raw_field_value(event, "bytes_alloc", data);
 208
 209         insert_alloc_stat(call_site, ptr, bytes_req, bytes_alloc, cpu);
 210         insert_caller_stat(call_site, bytes_req, bytes_alloc);
 211
 212         total_requested += bytes_req;
 213         total_allocated += bytes_alloc;
 214
 215         if (node) {
 216                 node1 = cpunode_map[cpu];
 217                 node2 = raw_field_value(event, "node", data);
 218                 if (node1 != node2)
 219                         nr_cross_allocs++;
 220         }
 221         nr_allocs++;
 222 }
 223
 224 static int ptr_cmp(struct alloc_stat *, struct alloc_stat *);
 225 static int callsite_cmp(struct alloc_stat *, struct alloc_stat *);
 226
 227 static struct alloc_stat *search_alloc_stat(unsigned long ptr,
 228                                             unsigned long call_site,
 229                                             struct rb_root *root,
 230                                             sort_fn_t sort_fn)
 231 {
 232         struct rb_node *node = root->rb_node;
 233         struct alloc_stat key = { .ptr = ptr, .call_site = call_site };
 234
 235         while (node) {
 236                 struct alloc_stat *data;
 237                 int cmp;
 238
 239                 data = rb_entry(node, struct alloc_stat, node);
 240
 241                 cmp = sort_fn(&key, data);
 242                 if (cmp < 0)
 243                         node = node->rb_left;
 244                 else if (cmp > 0)
 245                         node = node->rb_right;
 246                 else
 247                         return data;
 248         }
 249         return NULL;
 250 }
 251
 252 static void process_free_event(void *data,
 253                                struct event *event,
 254                                int cpu,
 255                                u64 timestamp __used,
 256                                struct thread *thread __used)
 257 {
 258         unsigned long ptr;
 259         struct alloc_stat *s_alloc, *s_caller;
 260
 261         ptr = raw_field_value(event, "ptr", data);
 262
 263         s_alloc = search_alloc_stat(ptr, 0, &root_alloc_stat, ptr_cmp);
 264         if (!s_alloc)
 265                 return;
 266
 267         if (cpu != s_alloc->alloc_cpu) {
 268                 s_alloc->pingpong++;
 269
 270                 s_caller = search_alloc_stat(0, s_alloc->call_site,
 271                                              &root_caller_stat, callsite_cmp);
 272                 assert(s_caller);
 273                 s_caller->pingpong++;
 274         }
 275         s_alloc->alloc_cpu = -1;
 276 }
 277
 278 static void
 279 process_raw_event(event_t *raw_event __used, void *data,
 280                   int cpu, u64 timestamp, struct thread *thread)
 281 {
 282         struct event *event;
 283         int type;
 284
 285         type = trace_parse_common_type(data);
 286         event = trace_find_event(type);
 287
 288         if (!strcmp(event->name, "kmalloc") ||
 289             !strcmp(event->name, "kmem_cache_alloc")) {
 290                 process_alloc_event(data, event, cpu, timestamp, thread, 0);
 291                 return;
 292         }
 293
 294         if (!strcmp(event->name, "kmalloc_node") ||
 295             !strcmp(event->name, "kmem_cache_alloc_node")) {
 296                 process_alloc_event(data, event, cpu, timestamp, thread, 1);
 297                 return;
 298         }
 299
 300         if (!strcmp(event->name, "kfree") ||
 301             !strcmp(event->name, "kmem_cache_free")) {
 302                 process_free_event(data, event, cpu, timestamp, thread);
 303                 return;
 304         }
 305 }
 306
 307 static int process_sample_event(event_t *event, struct perf_session *session)
 308 {
 309         struct sample_data data;
 310         struct thread *thread;
 311
 312         memset(&data, 0, sizeof(data));
 313         data.time = -1;
 314         data.cpu = -1;
 315         data.period = 1;
 316
 317         event__parse_sample(event, session->sample_type, &data);
 318
 319         dump_printf("(IP, %d): %d/%d: %p period: %Ld\n",
 320                 event->header.misc,
 321                 data.pid, data.tid,
 322                 (void *)(long)data.ip,
 323                 (long long)data.period);
 324
 325         thread = perf_session__findnew(session, event->ip.pid);
 326         if (thread == NULL) {
 327                 pr_debug("problem processing %d event, skipping it.\n",
 328                          event->header.type);
 329                 return -1;
 330         }
 331
 332         dump_printf(" ... thread: %s:%d\n", thread->comm, thread->pid);
 333
 334         process_raw_event(event, data.raw_data, data.cpu,
 335                           data.time, thread);
 336
 337         return 0;
 338 }
 339
 340 static struct perf_event_ops event_ops = {
 341         .sample = process_sample_event,
 342         .comm   = event__process_comm,
 343 };
 344
 345 static double fragmentation(unsigned long n_req, unsigned long n_alloc)
 346 {
 347         if (n_alloc == 0)
 348                 return 0.0;
 349         else
 350                 return 100.0 - (100.0 * n_req / n_alloc);
 351 }
 352
 353 static void __print_result(struct rb_root *root, struct perf_session *session,
 354                            int n_lines, int is_caller)
 355 {
 356         struct rb_node *next;
 357
 358         printf("%.102s\n", graph_dotted_line);
 359         printf(" %-34s |",  is_caller ? "Callsite": "Alloc Ptr");
 360         printf(" Total_alloc/Per | Total_req/Per   | Hit   | Ping-pong | Frag\n");
 361         printf("%.102s\n", graph_dotted_line);
 362
 363         next = rb_first(root);
 364
 365         while (next && n_lines--) {
 366                 struct alloc_stat *data = rb_entry(next, struct alloc_stat,
 367                                                    node);
 368                 struct symbol *sym = NULL;
 369                 char buf[BUFSIZ];
 370                 u64 addr;
 371
 372                 if (is_caller) {
 373                         addr = data->call_site;
 374                         if (!raw_ip)
 375                                 sym = map_groups__find_function(&session->kmaps, session, addr, NULL);
 376                 } else
 377                         addr = data->ptr;
 378
 379                 if (sym != NULL)
 380                         snprintf(buf, sizeof(buf), "%s+%Lx", sym->name,
 381                                  addr - sym->start);
 382                 else
 383                         snprintf(buf, sizeof(buf), "%#Lx", addr);
 384                 printf(" %-34s |", buf);
 385
 386                 printf(" %9llu/%-5lu | %9llu/%-5lu | %6lu | %8lu | %6.3f%%\n",
 387                        (unsigned long long)data->bytes_alloc,
 388                        (unsigned long)data->bytes_alloc / data->hit,
 389                        (unsigned long long)data->bytes_req,
 390                        (unsigned long)data->bytes_req / data->hit,
 391                        (unsigned long)data->hit,
 392                        (unsigned long)data->pingpong,
 393                        fragmentation(data->bytes_req, data->bytes_alloc));
 394
 395                 next = rb_next(next);
 396         }
 397
 398         if (n_lines == -1)
 399                 printf(" ...                                | ...             | ...             | ...    | ...      | ...   \n");
 400
 401         printf("%.102s\n", graph_dotted_line);
 402 }
 403
 404 static void print_summary(void)
 405 {
 406         printf("\nSUMMARY\n=======\n");
 407         printf("Total bytes requested: %lu\n", total_requested);
 408         printf("Total bytes allocated: %lu\n", total_allocated);
 409         printf("Total bytes wasted on internal fragmentation: %lu\n",
 410                total_allocated - total_requested);
 411         printf("Internal fragmentation: %f%%\n",
 412                fragmentation(total_requested, total_allocated));
 413         printf("Cross CPU allocations: %lu/%lu\n", nr_cross_allocs, nr_allocs);
 414 }
 415
 416 static void print_result(struct perf_session *session)
 417 {
 418         if (caller_flag)
 419                 __print_result(&root_caller_sorted, session, caller_lines, 1);
 420         if (alloc_flag)
 421                 __print_result(&root_alloc_sorted, session, alloc_lines, 0);
 422         print_summary();
 423 }
 424
 425 struct sort_dimension {
 426         const char              name[20];
 427         sort_fn_t               cmp;
 428         struct list_head        list;
 429 };
 430
 431 static LIST_HEAD(caller_sort);
 432 static LIST_HEAD(alloc_sort);
 433
 434 static void sort_insert(struct rb_root *root, struct alloc_stat *data,
 435                         struct list_head *sort_list)
 436 {
 437         struct rb_node **new = &(root->rb_node);
 438         struct rb_node *parent = NULL;
 439         struct sort_dimension *sort;
 440
 441         while (*new) {
 442                 struct alloc_stat *this;
 443                 int cmp = 0;
 444
 445                 this = rb_entry(*new, struct alloc_stat, node);
 446                 parent = *new;
 447
 448                 list_for_each_entry(sort, sort_list, list) {
 449                         cmp = sort->cmp(data, this);
 450                         if (cmp)
 451                                 break;
 452                 }
 453
 454                 if (cmp > 0)
 455                         new = &((*new)->rb_left);
 456                 else
 457                         new = &((*new)->rb_right);
 458         }
 459
 460         rb_link_node(&data->node, parent, new);
 461         rb_insert_color(&data->node, root);
 462 }
 463
 464 static void __sort_result(struct rb_root *root, struct rb_root *root_sorted,
 465                           struct list_head *sort_list)
 466 {
 467         struct rb_node *node;
 468         struct alloc_stat *data;
 469
 470         for (;;) {
 471                 node = rb_first(root);
 472                 if (!node)
 473                         break;
 474
 475                 rb_erase(node, root);
 476                 data = rb_entry(node, struct alloc_stat, node);
 477                 sort_insert(root_sorted, data, sort_list);
 478         }
 479 }
 480
 481 static void sort_result(void)
 482 {
 483         __sort_result(&root_alloc_stat, &root_alloc_sorted, &alloc_sort);
 484         __sort_result(&root_caller_stat, &root_caller_sorted, &caller_sort);
 485 }
 486
 487 static int __cmd_kmem(void)
 488 {
 489         int err = -EINVAL;
 490         struct perf_session *session = perf_session__new(input_name, O_RDONLY, 0);
 491         if (session == NULL)
 492                 return -ENOMEM;
 493
 494         if (!perf_session__has_traces(session, "kmem record"))
 495                 goto out_delete;
 496
 497         setup_pager();
 498         err = perf_session__process_events(session, &event_ops);
 499         if (err != 0)
 500                 goto out_delete;
 501         sort_result();
 502         print_result(session);
 503 out_delete:
 504         perf_session__delete(session);
 505         return err;
 506 }
 507
 508 static const char * const kmem_usage[] = {
 509         "perf kmem [<options>] {record|stat}",
 510         NULL
 511 };
 512
 513 static int ptr_cmp(struct alloc_stat *l, struct alloc_stat *r)
 514 {
 515         if (l->ptr < r->ptr)
 516                 return -1;
 517         else if (l->ptr > r->ptr)
 518                 return 1;
 519         return 0;
 520 }
 521
 522 static struct sort_dimension ptr_sort_dimension = {
 523         .name   = "ptr",
 524         .cmp    = ptr_cmp,
 525 };
 526
 527 static int callsite_cmp(struct alloc_stat *l, struct alloc_stat *r)
 528 {
 529         if (l->call_site < r->call_site)
 530                 return -1;
 531         else if (l->call_site > r->call_site)
 532                 return 1;
 533         return 0;
 534 }
 535
 536 static struct sort_dimension callsite_sort_dimension = {
 537         .name   = "callsite",
 538         .cmp    = callsite_cmp,
 539 };
 540
 541 static int hit_cmp(struct alloc_stat *l, struct alloc_stat *r)
 542 {
 543         if (l->hit < r->hit)
 544                 return -1;
 545         else if (l->hit > r->hit)
 546                 return 1;
 547         return 0;
 548 }
 549
 550 static struct sort_dimension hit_sort_dimension = {
 551         .name   = "hit",
 552         .cmp    = hit_cmp,
 553 };
 554
 555 static int bytes_cmp(struct alloc_stat *l, struct alloc_stat *r)
 556 {
 557         if (l->bytes_alloc < r->bytes_alloc)
 558                 return -1;
 559         else if (l->bytes_alloc > r->bytes_alloc)
 560                 return 1;
 561         return 0;
 562 }
 563
 564 static struct sort_dimension bytes_sort_dimension = {
 565         .name   = "bytes",
 566         .cmp    = bytes_cmp,
 567 };
 568
 569 static int frag_cmp(struct alloc_stat *l, struct alloc_stat *r)
 570 {
 571         double x, y;
 572
 573         x = fragmentation(l->bytes_req, l->bytes_alloc);
 574         y = fragmentation(r->bytes_req, r->bytes_alloc);
 575
 576         if (x < y)
 577                 return -1;
 578         else if (x > y)
 579                 return 1;
 580         return 0;
 581 }
 582
 583 static struct sort_dimension frag_sort_dimension = {
 584         .name   = "frag",
 585         .cmp    = frag_cmp,
 586 };
 587
 588 static int pingpong_cmp(struct alloc_stat *l, struct alloc_stat *r)
 589 {
 590         if (l->pingpong < r->pingpong)
 591                 return -1;
 592         else if (l->pingpong > r->pingpong)
 593                 return 1;
 594         return 0;
 595 }
 596
 597 static struct sort_dimension pingpong_sort_dimension = {
 598         .name   = "pingpong",
 599         .cmp    = pingpong_cmp,
 600 };
 601
 602 static struct sort_dimension *avail_sorts[] = {
 603         &ptr_sort_dimension,
 604         &callsite_sort_dimension,
 605         &hit_sort_dimension,
 606         &bytes_sort_dimension,
 607         &frag_sort_dimension,
 608         &pingpong_sort_dimension,
 609 };
 610
 611 #define NUM_AVAIL_SORTS \
 612         (int)(sizeof(avail_sorts) / sizeof(struct sort_dimension *))
 613
 614 static int sort_dimension__add(const char *tok, struct list_head *list)
 615 {
 616         struct sort_dimension *sort;
 617         int i;
 618
 619         for (i = 0; i < NUM_AVAIL_SORTS; i++) {
 620                 if (!strcmp(avail_sorts[i]->name, tok)) {
 621                         sort = malloc(sizeof(*sort));
 622                         if (!sort)
 623                                 die("malloc");
 624                         memcpy(sort, avail_sorts[i], sizeof(*sort));
 625                         list_add_tail(&sort->list, list);
 626                         return 0;
 627                 }
 628         }
 629
 630         return -1;
 631 }
 632
 633 static int setup_sorting(struct list_head *sort_list, const char *arg)
 634 {
 635         char *tok;
 636         char *str = strdup(arg);
 637
 638         if (!str)
 639                 die("strdup");
 640
 641         while (true) {
 642                 tok = strsep(&str, ",");
 643                 if (!tok)
 644                         break;
 645                 if (sort_dimension__add(tok, sort_list) < 0) {
 646                         error("Unknown --sort key: '%s'", tok);
 647                         return -1;
 648                 }
 649         }
 650
 651         free(str);
 652         return 0;
 653 }
 654
 655 static int parse_sort_opt(const struct option *opt __used,
 656                           const char *arg, int unset __used)
 657 {
 658         if (!arg)
 659                 return -1;
 660
 661         if (caller_flag > alloc_flag)
 662                 return setup_sorting(&caller_sort, arg);
 663         else
 664                 return setup_sorting(&alloc_sort, arg);
 665
 666         return 0;
 667 }
 668
 669 static int parse_caller_opt(const struct option *opt __used,
 670                           const char *arg __used, int unset __used)
 671 {
 672         caller_flag = (alloc_flag + 1);
 673         return 0;
 674 }
 675
 676 static int parse_alloc_opt(const struct option *opt __used,
 677                           const char *arg __used, int unset __used)
 678 {
 679         alloc_flag = (caller_flag + 1);
 680         return 0;
 681 }
 682
 683 static int parse_line_opt(const struct option *opt __used,
 684                           const char *arg, int unset __used)
 685 {
 686         int lines;
 687
 688         if (!arg)
 689                 return -1;
 690
 691         lines = strtoul(arg, NULL, 10);
 692
 693         if (caller_flag > alloc_flag)
 694                 caller_lines = lines;
 695         else
 696                 alloc_lines = lines;
 697
 698         return 0;
 699 }
 700
 701 static const struct option kmem_options[] = {
 702         OPT_STRING('i', "input", &input_name, "file",
 703                    "input file name"),
 704         OPT_CALLBACK_NOOPT(0, "caller", NULL, NULL,
 705                            "show per-callsite statistics",
 706                            parse_caller_opt),
 707         OPT_CALLBACK_NOOPT(0, "alloc", NULL, NULL,
 708                            "show per-allocation statistics",
 709                            parse_alloc_opt),
 710         OPT_CALLBACK('s', "sort", NULL, "key[,key2...]",
 711                      "sort by keys: ptr, call_site, bytes, hit, pingpong, frag",
 712                      parse_sort_opt),
 713         OPT_CALLBACK('l', "line", NULL, "num",
 714                      "show n lines",
 715                      parse_line_opt),
 716         OPT_BOOLEAN(0, "raw-ip", &raw_ip, "show raw ip instead of symbol"),
 717         OPT_END()
 718 };
 719
 720 static const char *record_args[] = {
 721         "record",
 722         "-a",
 723         "-R",
 724         "-M",
 725         "-f",
 726         "-c", "1",
 727         "-e", "kmem:kmalloc",
 728         "-e", "kmem:kmalloc_node",
 729         "-e", "kmem:kfree",
 730         "-e", "kmem:kmem_cache_alloc",
 731         "-e", "kmem:kmem_cache_alloc_node",
 732         "-e", "kmem:kmem_cache_free",
 733 };
 734
 735 static int __cmd_record(int argc, const char **argv)
 736 {
 737         unsigned int rec_argc, i, j;
 738         const char **rec_argv;
 739
 740         rec_argc = ARRAY_SIZE(record_args) + argc - 1;
 741         rec_argv = calloc(rec_argc + 1, sizeof(char *));
 742
 743         for (i = 0; i < ARRAY_SIZE(record_args); i++)
 744                 rec_argv[i] = strdup(record_args[i]);
 745
 746         for (j = 1; j < (unsigned int)argc; j++, i++)
 747                 rec_argv[i] = argv[j];
 748
 749         return cmd_record(i, rec_argv, NULL);
 750 }
 751
 752 int cmd_kmem(int argc, const char **argv, const char *prefix __used)
 753 {
 754         argc = parse_options(argc, argv, kmem_options, kmem_usage, 0);
 755
 756         if (!argc)
 757                 usage_with_options(kmem_usage, kmem_options);
 758
 759         symbol__init();
 760
 761         if (!strncmp(argv[0], "rec", 3)) {
 762                 return __cmd_record(argc, argv);
 763         } else if (!strcmp(argv[0], "stat")) {
 764                 setup_cpunode_map();
 765
 766                 if (list_empty(&caller_sort))
 767                         setup_sorting(&caller_sort, default_sort_order);
 768                 if (list_empty(&alloc_sort))
 769                         setup_sorting(&alloc_sort, default_sort_order);
 770
 771                 return __cmd_kmem();
 772         }
 773
 774         return 0;
 775 }
 776