fs/sysfs/dir.c

   1 /*
   2  * dir.c - Operations for sysfs directories.
   3  */
   4
   5 #undef DEBUG
   6
   7 #include <linux/fs.h>
   8 #include <linux/mount.h>
   9 #include <linux/module.h>
  10 #include <linux/kobject.h>
  11 #include <linux/namei.h>
  12 #include <linux/idr.h>
  13 #include <linux/completion.h>
  14 #include <linux/mutex.h>
  15 #include "sysfs.h"
  16
  17 DEFINE_MUTEX(sysfs_mutex);
  18 DEFINE_MUTEX(sysfs_rename_mutex);
  19 spinlock_t sysfs_assoc_lock = SPIN_LOCK_UNLOCKED;
  20
  21 static spinlock_t sysfs_ino_lock = SPIN_LOCK_UNLOCKED;
  22 static DEFINE_IDA(sysfs_ino_ida);
  23
  24 /**
  25  *      sysfs_link_sibling - link sysfs_dirent into sibling list
  26  *      @sd: sysfs_dirent of interest
  27  *
  28  *      Link @sd into its sibling list which starts from
  29  *      sd->s_parent->s_children.
  30  *
  31  *      Locking:
  32  *      mutex_lock(sysfs_mutex)
  33  */
  34 static void sysfs_link_sibling(struct sysfs_dirent *sd)
  35 {
  36         struct sysfs_dirent *parent_sd = sd->s_parent;
  37         struct sysfs_dirent **pos;
  38
  39         BUG_ON(sd->s_sibling);
  40
  41         /* Store directory entries in order by ino.  This allows
  42          * readdir to properly restart without having to add a
  43          * cursor into the s_children list.
  44          */
  45         for (pos = &parent_sd->s_children; *pos; pos = &(*pos)->s_sibling) {
  46                 if (sd->s_ino < (*pos)->s_ino)
  47                         break;
  48         }
  49         sd->s_sibling = *pos;
  50         *pos = sd;
  51 }
  52
  53 /**
  54  *      sysfs_unlink_sibling - unlink sysfs_dirent from sibling list
  55  *      @sd: sysfs_dirent of interest
  56  *
  57  *      Unlink @sd from its sibling list which starts from
  58  *      sd->s_parent->s_children.
  59  *
  60  *      Locking:
  61  *      mutex_lock(sysfs_mutex)
  62  */
  63 static void sysfs_unlink_sibling(struct sysfs_dirent *sd)
  64 {
  65         struct sysfs_dirent **pos;
  66
  67         for (pos = &sd->s_parent->s_children; *pos; pos = &(*pos)->s_sibling) {
  68                 if (*pos == sd) {
  69                         *pos = sd->s_sibling;
  70                         sd->s_sibling = NULL;
  71                         break;
  72                 }
  73         }
  74 }
  75
  76 /**
  77  *      sysfs_get_dentry - get dentry for the given sysfs_dirent
  78  *      @sd: sysfs_dirent of interest
  79  *
  80  *      Get dentry for @sd.  Dentry is looked up if currently not
  81  *      present.  This function descends from the root looking up
  82  *      dentry for each step.
  83  *
  84  *      LOCKING:
  85  *      mutex_lock(sysfs_rename_mutex)
  86  *
  87  *      RETURNS:
  88  *      Pointer to found dentry on success, ERR_PTR() value on error.
  89  */
  90 struct dentry *sysfs_get_dentry(struct sysfs_dirent *sd)
  91 {
  92         struct dentry *dentry = dget(sysfs_sb->s_root);
  93
  94         while (dentry->d_fsdata != sd) {
  95                 struct sysfs_dirent *cur;
  96                 struct dentry *parent;
  97
  98                 /* find the first ancestor which hasn't been looked up */
  99                 cur = sd;
 100                 while (cur->s_parent != dentry->d_fsdata)
 101                         cur = cur->s_parent;
 102
 103                 /* look it up */
 104                 parent = dentry;
 105                 mutex_lock(&parent->d_inode->i_mutex);
 106                 dentry = lookup_one_len_kern(cur->s_name, parent,
 107                                              strlen(cur->s_name));
 108                 mutex_unlock(&parent->d_inode->i_mutex);
 109                 dput(parent);
 110
 111                 if (IS_ERR(dentry))
 112                         break;
 113         }
 114         return dentry;
 115 }
 116
 117 /**
 118  *      sysfs_get_active - get an active reference to sysfs_dirent
 119  *      @sd: sysfs_dirent to get an active reference to
 120  *
 121  *      Get an active reference of @sd.  This function is noop if @sd
 122  *      is NULL.
 123  *
 124  *      RETURNS:
 125  *      Pointer to @sd on success, NULL on failure.
 126  */
 127 struct sysfs_dirent *sysfs_get_active(struct sysfs_dirent *sd)
 128 {
 129         if (unlikely(!sd))
 130                 return NULL;
 131
 132         while (1) {
 133                 int v, t;
 134
 135                 v = atomic_read(&sd->s_active);
 136                 if (unlikely(v < 0))
 137                         return NULL;
 138
 139                 t = atomic_cmpxchg(&sd->s_active, v, v + 1);
 140                 if (likely(t == v))
 141                         return sd;
 142                 if (t < 0)
 143                         return NULL;
 144
 145                 cpu_relax();
 146         }
 147 }
 148
 149 /**
 150  *      sysfs_put_active - put an active reference to sysfs_dirent
 151  *      @sd: sysfs_dirent to put an active reference to
 152  *
 153  *      Put an active reference to @sd.  This function is noop if @sd
 154  *      is NULL.
 155  */
 156 void sysfs_put_active(struct sysfs_dirent *sd)
 157 {
 158         struct completion *cmpl;
 159         int v;
 160
 161         if (unlikely(!sd))
 162                 return;
 163
 164         v = atomic_dec_return(&sd->s_active);
 165         if (likely(v != SD_DEACTIVATED_BIAS))
 166                 return;
 167
 168         /* atomic_dec_return() is a mb(), we'll always see the updated
 169          * sd->s_sibling.
 170          */
 171         cmpl = (void *)sd->s_sibling;
 172         complete(cmpl);
 173 }
 174
 175 /**
 176  *      sysfs_get_active_two - get active references to sysfs_dirent and parent
 177  *      @sd: sysfs_dirent of interest
 178  *
 179  *      Get active reference to @sd and its parent.  Parent's active
 180  *      reference is grabbed first.  This function is noop if @sd is
 181  *      NULL.
 182  *
 183  *      RETURNS:
 184  *      Pointer to @sd on success, NULL on failure.
 185  */
 186 struct sysfs_dirent *sysfs_get_active_two(struct sysfs_dirent *sd)
 187 {
 188         if (sd) {
 189                 if (sd->s_parent && unlikely(!sysfs_get_active(sd->s_parent)))
 190                         return NULL;
 191                 if (unlikely(!sysfs_get_active(sd))) {
 192                         sysfs_put_active(sd->s_parent);
 193                         return NULL;
 194                 }
 195         }
 196         return sd;
 197 }
 198
 199 /**
 200  *      sysfs_put_active_two - put active references to sysfs_dirent and parent
 201  *      @sd: sysfs_dirent of interest
 202  *
 203  *      Put active references to @sd and its parent.  This function is
 204  *      noop if @sd is NULL.
 205  */
 206 void sysfs_put_active_two(struct sysfs_dirent *sd)
 207 {
 208         if (sd) {
 209                 sysfs_put_active(sd);
 210                 sysfs_put_active(sd->s_parent);
 211         }
 212 }
 213
 214 /**
 215  *      sysfs_deactivate - deactivate sysfs_dirent
 216  *      @sd: sysfs_dirent to deactivate
 217  *
 218  *      Deny new active references and drain existing ones.
 219  */
 220 static void sysfs_deactivate(struct sysfs_dirent *sd)
 221 {
 222         DECLARE_COMPLETION_ONSTACK(wait);
 223         int v;
 224
 225         BUG_ON(sd->s_sibling || !(sd->s_flags & SYSFS_FLAG_REMOVED));
 226         sd->s_sibling = (void *)&wait;
 227
 228         /* atomic_add_return() is a mb(), put_active() will always see
 229          * the updated sd->s_sibling.
 230          */
 231         v = atomic_add_return(SD_DEACTIVATED_BIAS, &sd->s_active);
 232
 233         if (v != SD_DEACTIVATED_BIAS)
 234                 wait_for_completion(&wait);
 235
 236         sd->s_sibling = NULL;
 237 }
 238
 239 static int sysfs_alloc_ino(ino_t *pino)
 240 {
 241         int ino, rc;
 242
 243  retry:
 244         spin_lock(&sysfs_ino_lock);
 245         rc = ida_get_new_above(&sysfs_ino_ida, 2, &ino);
 246         spin_unlock(&sysfs_ino_lock);
 247
 248         if (rc == -EAGAIN) {
 249                 if (ida_pre_get(&sysfs_ino_ida, GFP_KERNEL))
 250                         goto retry;
 251                 rc = -ENOMEM;
 252         }
 253
 254         *pino = ino;
 255         return rc;
 256 }
 257
 258 static void sysfs_free_ino(ino_t ino)
 259 {
 260         spin_lock(&sysfs_ino_lock);
 261         ida_remove(&sysfs_ino_ida, ino);
 262         spin_unlock(&sysfs_ino_lock);
 263 }
 264
 265 void release_sysfs_dirent(struct sysfs_dirent * sd)
 266 {
 267         struct sysfs_dirent *parent_sd;
 268
 269  repeat:
 270         /* Moving/renaming is always done while holding reference.
 271          * sd->s_parent won't change beneath us.
 272          */
 273         parent_sd = sd->s_parent;
 274
 275         if (sysfs_type(sd) == SYSFS_KOBJ_LINK)
 276                 sysfs_put(sd->s_elem.symlink.target_sd);
 277         if (sysfs_type(sd) & SYSFS_COPY_NAME)
 278                 kfree(sd->s_name);
 279         kfree(sd->s_iattr);
 280         sysfs_free_ino(sd->s_ino);
 281         kmem_cache_free(sysfs_dir_cachep, sd);
 282
 283         sd = parent_sd;
 284         if (sd && atomic_dec_and_test(&sd->s_count))
 285                 goto repeat;
 286 }
 287
 288 static void sysfs_d_iput(struct dentry * dentry, struct inode * inode)
 289 {
 290         struct sysfs_dirent * sd = dentry->d_fsdata;
 291
 292         if (sd) {
 293                 /* sd->s_dentry is protected with sysfs_assoc_lock.
 294                  * This allows sysfs_drop_dentry() to dereference it.
 295                  */
 296                 spin_lock(&sysfs_assoc_lock);
 297
 298                 /* The dentry might have been deleted or another
 299                  * lookup could have happened updating sd->s_dentry to
 300                  * point the new dentry.  Ignore if it isn't pointing
 301                  * to this dentry.
 302                  */
 303                 if (sd->s_dentry == dentry)
 304                         sd->s_dentry = NULL;
 305                 spin_unlock(&sysfs_assoc_lock);
 306                 sysfs_put(sd);
 307         }
 308         iput(inode);
 309 }
 310
 311 static struct dentry_operations sysfs_dentry_ops = {
 312         .d_iput         = sysfs_d_iput,
 313 };
 314
 315 struct sysfs_dirent *sysfs_new_dirent(const char *name, umode_t mode, int type)
 316 {
 317         char *dup_name = NULL;
 318         struct sysfs_dirent *sd;
 319
 320         if (type & SYSFS_COPY_NAME) {
 321                 name = dup_name = kstrdup(name, GFP_KERNEL);
 322                 if (!name)
 323                         return NULL;
 324         }
 325
 326         sd = kmem_cache_zalloc(sysfs_dir_cachep, GFP_KERNEL);
 327         if (!sd)
 328                 goto err_out1;
 329
 330         if (sysfs_alloc_ino(&sd->s_ino))
 331                 goto err_out2;
 332
 333         atomic_set(&sd->s_count, 1);
 334         atomic_set(&sd->s_active, 0);
 335         atomic_set(&sd->s_event, 1);
 336
 337         sd->s_name = name;
 338         sd->s_mode = mode;
 339         sd->s_flags = type;
 340
 341         return sd;
 342
 343  err_out2:
 344         kmem_cache_free(sysfs_dir_cachep, sd);
 345  err_out1:
 346         kfree(dup_name);
 347         return NULL;
 348 }
 349
 350 /**
 351  *      sysfs_attach_dentry - associate sysfs_dirent with dentry
 352  *      @sd: target sysfs_dirent
 353  *      @dentry: dentry to associate
 354  *
 355  *      Associate @sd with @dentry.  This is protected by
 356  *      sysfs_assoc_lock to avoid race with sysfs_d_iput().
 357  *
 358  *      LOCKING:
 359  *      mutex_lock(sysfs_mutex)
 360  */
 361 static void sysfs_attach_dentry(struct sysfs_dirent *sd, struct dentry *dentry)
 362 {
 363         dentry->d_op = &sysfs_dentry_ops;
 364         dentry->d_fsdata = sysfs_get(sd);
 365
 366         /* protect sd->s_dentry against sysfs_d_iput */
 367         spin_lock(&sysfs_assoc_lock);
 368         sd->s_dentry = dentry;
 369         spin_unlock(&sysfs_assoc_lock);
 370
 371         d_rehash(dentry);
 372 }
 373
 374 static int sysfs_ilookup_test(struct inode *inode, void *arg)
 375 {
 376         struct sysfs_dirent *sd = arg;
 377         return inode->i_ino == sd->s_ino;
 378 }
 379
 380 /**
 381  *      sysfs_addrm_start - prepare for sysfs_dirent add/remove
 382  *      @acxt: pointer to sysfs_addrm_cxt to be used
 383  *      @parent_sd: parent sysfs_dirent
 384  *
 385  *      This function is called when the caller is about to add or
 386  *      remove sysfs_dirent under @parent_sd.  This function acquires
 387  *      sysfs_mutex, grabs inode for @parent_sd if available and lock
 388  *      i_mutex of it.  @acxt is used to keep and pass context to
 389  *      other addrm functions.
 390  *
 391  *      LOCKING:
 392  *      Kernel thread context (may sleep).  sysfs_mutex is locked on
 393  *      return.  i_mutex of parent inode is locked on return if
 394  *      available.
 395  */
 396 void sysfs_addrm_start(struct sysfs_addrm_cxt *acxt,
 397                        struct sysfs_dirent *parent_sd)
 398 {
 399         struct inode *inode;
 400
 401         memset(acxt, 0, sizeof(*acxt));
 402         acxt->parent_sd = parent_sd;
 403
 404         /* Lookup parent inode.  inode initialization and I_NEW
 405          * clearing are protected by sysfs_mutex.  By grabbing it and
 406          * looking up with _nowait variant, inode state can be
 407          * determined reliably.
 408          */
 409         mutex_lock(&sysfs_mutex);
 410
 411         inode = ilookup5_nowait(sysfs_sb, parent_sd->s_ino, sysfs_ilookup_test,
 412                                 parent_sd);
 413
 414         if (inode && !(inode->i_state & I_NEW)) {
 415                 /* parent inode available */
 416                 acxt->parent_inode = inode;
 417
 418                 /* sysfs_mutex is below i_mutex in lock hierarchy.
 419                  * First, trylock i_mutex.  If fails, unlock
 420                  * sysfs_mutex and lock them in order.
 421                  */
 422                 if (!mutex_trylock(&inode->i_mutex)) {
 423                         mutex_unlock(&sysfs_mutex);
 424                         mutex_lock(&inode->i_mutex);
 425                         mutex_lock(&sysfs_mutex);
 426                 }
 427         } else
 428                 iput(inode);
 429 }
 430
 431 /**
 432  *      sysfs_add_one - add sysfs_dirent to parent
 433  *      @acxt: addrm context to use
 434  *      @sd: sysfs_dirent to be added
 435  *
 436  *      Get @acxt->parent_sd and set sd->s_parent to it and increment
 437  *      nlink of parent inode if @sd is a directory.  @sd is NOT
 438  *      linked into the children list of the parent.  The caller
 439  *      should invoke sysfs_link_sibling() after this function
 440  *      completes if @sd needs to be on the children list.
 441  *
 442  *      This function should be called between calls to
 443  *      sysfs_addrm_start() and sysfs_addrm_finish() and should be
 444  *      passed the same @acxt as passed to sysfs_addrm_start().
 445  *
 446  *      LOCKING:
 447  *      Determined by sysfs_addrm_start().
 448  *
 449  *      RETURNS:
 450  *      0 on success, -EEXIST if entry with the given name already
 451  *      exists.
 452  */
 453 int sysfs_add_one(struct sysfs_addrm_cxt *acxt, struct sysfs_dirent *sd)
 454 {
 455         if (sysfs_find_dirent(acxt->parent_sd, sd->s_name))
 456                 return -EEXIST;
 457
 458         sd->s_parent = sysfs_get(acxt->parent_sd);
 459
 460         if (sysfs_type(sd) == SYSFS_DIR && acxt->parent_inode)
 461                 inc_nlink(acxt->parent_inode);
 462
 463         acxt->cnt++;
 464
 465         sysfs_link_sibling(sd);
 466
 467         return 0;
 468 }
 469
 470 /**
 471  *      sysfs_remove_one - remove sysfs_dirent from parent
 472  *      @acxt: addrm context to use
 473  *      @sd: sysfs_dirent to be added
 474  *
 475  *      Mark @sd removed and drop nlink of parent inode if @sd is a
 476  *      directory.  @sd is NOT unlinked from the children list of the
 477  *      parent.  The caller is repsonsible for removing @sd from the
 478  *      children list before calling this function.
 479  *
 480  *      This function should be called between calls to
 481  *      sysfs_addrm_start() and sysfs_addrm_finish() and should be
 482  *      passed the same @acxt as passed to sysfs_addrm_start().
 483  *
 484  *      LOCKING:
 485  *      Determined by sysfs_addrm_start().
 486  */
 487 void sysfs_remove_one(struct sysfs_addrm_cxt *acxt, struct sysfs_dirent *sd)
 488 {
 489         BUG_ON(sd->s_flags & SYSFS_FLAG_REMOVED);
 490
 491         sysfs_unlink_sibling(sd);
 492
 493         sd->s_flags |= SYSFS_FLAG_REMOVED;
 494         sd->s_sibling = acxt->removed;
 495         acxt->removed = sd;
 496
 497         if (sysfs_type(sd) == SYSFS_DIR && acxt->parent_inode)
 498                 drop_nlink(acxt->parent_inode);
 499
 500         acxt->cnt++;
 501 }
 502
 503 /**
 504  *      sysfs_drop_dentry - drop dentry for the specified sysfs_dirent
 505  *      @sd: target sysfs_dirent
 506  *
 507  *      Drop dentry for @sd.  @sd must have been unlinked from its
 508  *      parent on entry to this function such that it can't be looked
 509  *      up anymore.
 510  */
 511 static void sysfs_drop_dentry(struct sysfs_dirent *sd)
 512 {
 513         struct inode *inode;
 514         struct dentry *dentry;
 515
 516         inode = ilookup(sysfs_sb, sd->s_ino);
 517         if (!inode)
 518                 return;
 519
 520         /* Drop any existing dentries associated with sd.
 521          *
 522          * For the dentry to be properly freed we need to grab a
 523          * reference to the dentry under the dcache lock,  unhash it,
 524          * and then put it.  The playing with the dentry count allows
 525          * dput to immediately free the dentry  if it is not in use.
 526          */
 527 repeat:
 528         spin_lock(&dcache_lock);
 529         list_for_each_entry(dentry, &inode->i_dentry, d_alias) {
 530                 if (d_unhashed(dentry))
 531                         continue;
 532                 dget_locked(dentry);
 533                 spin_lock(&dentry->d_lock);
 534                 __d_drop(dentry);
 535                 spin_unlock(&dentry->d_lock);
 536                 spin_unlock(&dcache_lock);
 537                 dput(dentry);
 538                 goto repeat;
 539         }
 540         spin_unlock(&dcache_lock);
 541
 542         /* adjust nlink and update timestamp */
 543         mutex_lock(&inode->i_mutex);
 544
 545         inode->i_ctime = CURRENT_TIME;
 546         drop_nlink(inode);
 547         if (sysfs_type(sd) == SYSFS_DIR)
 548                 drop_nlink(inode);
 549
 550         mutex_unlock(&inode->i_mutex);
 551
 552         iput(inode);
 553 }
 554
 555 /**
 556  *      sysfs_addrm_finish - finish up sysfs_dirent add/remove
 557  *      @acxt: addrm context to finish up
 558  *
 559  *      Finish up sysfs_dirent add/remove.  Resources acquired by
 560  *      sysfs_addrm_start() are released and removed sysfs_dirents are
 561  *      cleaned up.  Timestamps on the parent inode are updated.
 562  *
 563  *      LOCKING:
 564  *      All mutexes acquired by sysfs_addrm_start() are released.
 565  */
 566 void sysfs_addrm_finish(struct sysfs_addrm_cxt *acxt)
 567 {
 568         /* release resources acquired by sysfs_addrm_start() */
 569         mutex_unlock(&sysfs_mutex);
 570         if (acxt->parent_inode) {
 571                 struct inode *inode = acxt->parent_inode;
 572
 573                 /* if added/removed, update timestamps on the parent */
 574                 if (acxt->cnt)
 575                         inode->i_ctime = inode->i_mtime = CURRENT_TIME;
 576
 577                 mutex_unlock(&inode->i_mutex);
 578                 iput(inode);
 579         }
 580
 581         /* kill removed sysfs_dirents */
 582         while (acxt->removed) {
 583                 struct sysfs_dirent *sd = acxt->removed;
 584
 585                 acxt->removed = sd->s_sibling;
 586                 sd->s_sibling = NULL;
 587
 588                 sysfs_drop_dentry(sd);
 589                 sysfs_deactivate(sd);
 590                 sysfs_put(sd);
 591         }
 592 }
 593
 594 /**
 595  *      sysfs_find_dirent - find sysfs_dirent with the given name
 596  *      @parent_sd: sysfs_dirent to search under
 597  *      @name: name to look for
 598  *
 599  *      Look for sysfs_dirent with name @name under @parent_sd.
 600  *
 601  *      LOCKING:
 602  *      mutex_lock(sysfs_mutex)
 603  *
 604  *      RETURNS:
 605  *      Pointer to sysfs_dirent if found, NULL if not.
 606  */
 607 struct sysfs_dirent *sysfs_find_dirent(struct sysfs_dirent *parent_sd,
 608                                        const unsigned char *name)
 609 {
 610         struct sysfs_dirent *sd;
 611
 612         for (sd = parent_sd->s_children; sd; sd = sd->s_sibling)
 613                 if (!strcmp(sd->s_name, name))
 614                         return sd;
 615         return NULL;
 616 }
 617
 618 /**
 619  *      sysfs_get_dirent - find and get sysfs_dirent with the given name
 620  *      @parent_sd: sysfs_dirent to search under
 621  *      @name: name to look for
 622  *
 623  *      Look for sysfs_dirent with name @name under @parent_sd and get
 624  *      it if found.
 625  *
 626  *      LOCKING:
 627  *      Kernel thread context (may sleep).  Grabs sysfs_mutex.
 628  *
 629  *      RETURNS:
 630  *      Pointer to sysfs_dirent if found, NULL if not.
 631  */
 632 struct sysfs_dirent *sysfs_get_dirent(struct sysfs_dirent *parent_sd,
 633                                       const unsigned char *name)
 634 {
 635         struct sysfs_dirent *sd;
 636
 637         mutex_lock(&sysfs_mutex);
 638         sd = sysfs_find_dirent(parent_sd, name);
 639         sysfs_get(sd);
 640         mutex_unlock(&sysfs_mutex);
 641
 642         return sd;
 643 }
 644
 645 static int create_dir(struct kobject *kobj, struct sysfs_dirent *parent_sd,
 646                       const char *name, struct sysfs_dirent **p_sd)
 647 {
 648         umode_t mode = S_IFDIR| S_IRWXU | S_IRUGO | S_IXUGO;
 649         struct sysfs_addrm_cxt acxt;
 650         struct sysfs_dirent *sd;
 651         int rc;
 652
 653         /* allocate */
 654         sd = sysfs_new_dirent(name, mode, SYSFS_DIR);
 655         if (!sd)
 656                 return -ENOMEM;
 657         sd->s_elem.dir.kobj = kobj;
 658
 659         /* link in */
 660         sysfs_addrm_start(&acxt, parent_sd);
 661         rc = sysfs_add_one(&acxt, sd);
 662         sysfs_addrm_finish(&acxt);
 663
 664         if (rc == 0)
 665                 *p_sd = sd;
 666         else
 667                 sysfs_put(sd);
 668
 669         return rc;
 670 }
 671
 672 int sysfs_create_subdir(struct kobject *kobj, const char *name,
 673                         struct sysfs_dirent **p_sd)
 674 {
 675         return create_dir(kobj, kobj->sd, name, p_sd);
 676 }
 677
 678 /**
 679  *      sysfs_create_dir - create a directory for an object.
 680  *      @kobj:          object we're creating directory for.
 681  */
 682 int sysfs_create_dir(struct kobject * kobj)
 683 {
 684         struct sysfs_dirent *parent_sd, *sd;
 685         int error = 0;
 686
 687         BUG_ON(!kobj);
 688
 689         if (kobj->parent)
 690                 parent_sd = kobj->parent->sd;
 691         else
 692                 parent_sd = &sysfs_root;
 693
 694         error = create_dir(kobj, parent_sd, kobject_name(kobj), &sd);
 695         if (!error)
 696                 kobj->sd = sd;
 697         return error;
 698 }
 699
 700 static struct dentry * sysfs_lookup(struct inode *dir, struct dentry *dentry,
 701                                 struct nameidata *nd)
 702 {
 703         struct dentry *ret = NULL;
 704         struct sysfs_dirent *parent_sd = dentry->d_parent->d_fsdata;
 705         struct sysfs_dirent *sd;
 706         struct inode *inode;
 707
 708         mutex_lock(&sysfs_mutex);
 709
 710         sd = sysfs_find_dirent(parent_sd, dentry->d_name.name);
 711
 712         /* no such entry */
 713         if (!sd)
 714                 goto out_unlock;
 715
 716         /* attach dentry and inode */
 717         inode = sysfs_get_inode(sd);
 718         if (!inode) {
 719                 ret = ERR_PTR(-ENOMEM);
 720                 goto out_unlock;
 721         }
 722
 723         d_instantiate(dentry, inode);
 724         sysfs_attach_dentry(sd, dentry);
 725
 726  out_unlock:
 727         mutex_unlock(&sysfs_mutex);
 728         return ret;
 729 }
 730
 731 const struct inode_operations sysfs_dir_inode_operations = {
 732         .lookup         = sysfs_lookup,
 733         .setattr        = sysfs_setattr,
 734 };
 735
 736 static void remove_dir(struct sysfs_dirent *sd)
 737 {
 738         struct sysfs_addrm_cxt acxt;
 739
 740         sysfs_addrm_start(&acxt, sd->s_parent);
 741         sysfs_remove_one(&acxt, sd);
 742         sysfs_addrm_finish(&acxt);
 743 }
 744
 745 void sysfs_remove_subdir(struct sysfs_dirent *sd)
 746 {
 747         remove_dir(sd);
 748 }
 749
 750
 751 static void __sysfs_remove_dir(struct sysfs_dirent *dir_sd)
 752 {
 753         struct sysfs_addrm_cxt acxt;
 754         struct sysfs_dirent **pos;
 755
 756         if (!dir_sd)
 757                 return;
 758
 759         pr_debug("sysfs %s: removing dir\n", dir_sd->s_name);
 760         sysfs_addrm_start(&acxt, dir_sd);
 761         pos = &dir_sd->s_children;
 762         while (*pos) {
 763                 struct sysfs_dirent *sd = *pos;
 764
 765                 if (sysfs_type(sd) != SYSFS_DIR)
 766                         sysfs_remove_one(&acxt, sd);
 767                 else
 768                         pos = &(*pos)->s_sibling;
 769         }
 770         sysfs_addrm_finish(&acxt);
 771
 772         remove_dir(dir_sd);
 773 }
 774
 775 /**
 776  *      sysfs_remove_dir - remove an object's directory.
 777  *      @kobj:  object.
 778  *
 779  *      The only thing special about this is that we remove any files in
 780  *      the directory before we remove the directory, and we've inlined
 781  *      what used to be sysfs_rmdir() below, instead of calling separately.
 782  */
 783
 784 void sysfs_remove_dir(struct kobject * kobj)
 785 {
 786         struct sysfs_dirent *sd = kobj->sd;
 787
 788         spin_lock(&sysfs_assoc_lock);
 789         kobj->sd = NULL;
 790         spin_unlock(&sysfs_assoc_lock);
 791
 792         __sysfs_remove_dir(sd);
 793 }
 794
 795 int sysfs_rename_dir(struct kobject * kobj, const char *new_name)
 796 {
 797         struct sysfs_dirent *sd;
 798         struct dentry *parent = NULL;
 799         struct dentry *old_dentry = NULL, *new_dentry = NULL;
 800         const char *dup_name = NULL;
 801         int error;
 802
 803         mutex_lock(&sysfs_rename_mutex);
 804
 805         /* get the original dentry */
 806         sd = kobj->sd;
 807         old_dentry = sysfs_get_dentry(sd);
 808         if (IS_ERR(old_dentry)) {
 809                 error = PTR_ERR(old_dentry);
 810                 goto out_dput;
 811         }
 812
 813         parent = old_dentry->d_parent;
 814
 815         /* lock parent and get dentry for new name */
 816         mutex_lock(&parent->d_inode->i_mutex);
 817
 818         new_dentry = lookup_one_len(new_name, parent, strlen(new_name));
 819         if (IS_ERR(new_dentry)) {
 820                 error = PTR_ERR(new_dentry);
 821                 goto out_unlock;
 822         }
 823
 824         error = -EINVAL;
 825         if (old_dentry == new_dentry)
 826                 goto out_unlock;
 827
 828         error = -EEXIST;
 829         if (new_dentry->d_inode)
 830                 goto out_unlock;
 831
 832         /* rename kobject and sysfs_dirent */
 833         error = -ENOMEM;
 834         new_name = dup_name = kstrdup(new_name, GFP_KERNEL);
 835         if (!new_name)
 836                 goto out_drop;
 837
 838         error = kobject_set_name(kobj, "%s", new_name);
 839         if (error)
 840                 goto out_drop;
 841
 842         mutex_lock(&sysfs_mutex);
 843         dup_name = sd->s_name;
 844         sd->s_name = new_name;
 845         mutex_unlock(&sysfs_mutex);
 846
 847         /* rename */
 848         d_add(new_dentry, NULL);
 849         d_move(sd->s_dentry, new_dentry);
 850
 851         error = 0;
 852         goto out_unlock;
 853
 854  out_drop:
 855         d_drop(new_dentry);
 856  out_unlock:
 857         mutex_unlock(&parent->d_inode->i_mutex);
 858  out_dput:
 859         kfree(dup_name);
 860         dput(old_dentry);
 861         dput(new_dentry);
 862         mutex_unlock(&sysfs_rename_mutex);
 863         return error;
 864 }
 865
 866 int sysfs_move_dir(struct kobject *kobj, struct kobject *new_parent_kobj)
 867 {
 868         struct sysfs_dirent *sd = kobj->sd;
 869         struct sysfs_dirent *new_parent_sd;
 870         struct dentry *old_parent, *new_parent = NULL;
 871         struct dentry *old_dentry = NULL, *new_dentry = NULL;
 872         int error;
 873
 874         mutex_lock(&sysfs_rename_mutex);
 875         BUG_ON(!sd->s_parent);
 876         new_parent_sd = new_parent_kobj->sd ? new_parent_kobj->sd : &sysfs_root;
 877
 878         /* get dentries */
 879         old_dentry = sysfs_get_dentry(sd);
 880         if (IS_ERR(old_dentry)) {
 881                 error = PTR_ERR(old_dentry);
 882                 goto out_dput;
 883         }
 884         old_parent = sd->s_parent->s_dentry;
 885
 886         new_parent = sysfs_get_dentry(new_parent_sd);
 887         if (IS_ERR(new_parent)) {
 888                 error = PTR_ERR(new_parent);
 889                 goto out_dput;
 890         }
 891
 892         if (old_parent->d_inode == new_parent->d_inode) {
 893                 error = 0;
 894                 goto out_dput;  /* nothing to move */
 895         }
 896 again:
 897         mutex_lock(&old_parent->d_inode->i_mutex);
 898         if (!mutex_trylock(&new_parent->d_inode->i_mutex)) {
 899                 mutex_unlock(&old_parent->d_inode->i_mutex);
 900                 goto again;
 901         }
 902
 903         new_dentry = lookup_one_len(kobject_name(kobj), new_parent, strlen(kobject_name(kobj)));
 904         if (IS_ERR(new_dentry)) {
 905                 error = PTR_ERR(new_dentry);
 906                 goto out_unlock;
 907         } else
 908                 error = 0;
 909         d_add(new_dentry, NULL);
 910         d_move(sd->s_dentry, new_dentry);
 911         dput(new_dentry);
 912
 913         /* Remove from old parent's list and insert into new parent's list. */
 914         mutex_lock(&sysfs_mutex);
 915
 916         sysfs_unlink_sibling(sd);
 917         sysfs_get(new_parent_sd);
 918         sysfs_put(sd->s_parent);
 919         sd->s_parent = new_parent_sd;
 920         sysfs_link_sibling(sd);
 921
 922         mutex_unlock(&sysfs_mutex);
 923
 924  out_unlock:
 925         mutex_unlock(&new_parent->d_inode->i_mutex);
 926         mutex_unlock(&old_parent->d_inode->i_mutex);
 927  out_dput:
 928         dput(new_parent);
 929         dput(old_dentry);
 930         dput(new_dentry);
 931         mutex_unlock(&sysfs_rename_mutex);
 932         return error;
 933 }
 934
 935 /* Relationship between s_mode and the DT_xxx types */
 936 static inline unsigned char dt_type(struct sysfs_dirent *sd)
 937 {
 938         return (sd->s_mode >> 12) & 15;
 939 }
 940
 941 static int sysfs_readdir(struct file * filp, void * dirent, filldir_t filldir)
 942 {
 943         struct dentry *dentry = filp->f_path.dentry;
 944         struct sysfs_dirent * parent_sd = dentry->d_fsdata;
 945         struct sysfs_dirent *pos;
 946         ino_t ino;
 947
 948         if (filp->f_pos == 0) {
 949                 ino = parent_sd->s_ino;
 950                 if (filldir(dirent, ".", 1, filp->f_pos, ino, DT_DIR) == 0)
 951                         filp->f_pos++;
 952         }
 953         if (filp->f_pos == 1) {
 954                 if (parent_sd->s_parent)
 955                         ino = parent_sd->s_parent->s_ino;
 956                 else
 957                         ino = parent_sd->s_ino;
 958                 if (filldir(dirent, "..", 2, filp->f_pos, ino, DT_DIR) == 0)
 959                         filp->f_pos++;
 960         }
 961         if ((filp->f_pos > 1) && (filp->f_pos < INT_MAX)) {
 962                 mutex_lock(&sysfs_mutex);
 963
 964                 /* Skip the dentries we have already reported */
 965                 pos = parent_sd->s_children;
 966                 while (pos && (filp->f_pos > pos->s_ino))
 967                         pos = pos->s_sibling;
 968
 969                 for ( ; pos; pos = pos->s_sibling) {
 970                         const char * name;
 971                         int len;
 972
 973                         name = pos->s_name;
 974                         len = strlen(name);
 975                         filp->f_pos = ino = pos->s_ino;
 976
 977                         if (filldir(dirent, name, len, filp->f_pos, ino,
 978                                          dt_type(pos)) < 0)
 979                                 break;
 980                 }
 981                 if (!pos)
 982                         filp->f_pos = INT_MAX;
 983                 mutex_unlock(&sysfs_mutex);
 984         }
 985         return 0;
 986 }
 987
 988
 989 const struct file_operations sysfs_dir_operations = {
 990         .read           = generic_read_dir,
 991         .readdir        = sysfs_readdir,
 992 };